# 边缘AI推理

ELISARCyberAIEdge7B-LoRA-GGUF 是一款专为网络安全用例设计的离线就绪、量化的 LLaMA 边缘模型，可有效应对网络安全风险评估等多种场景。

基于boltuix/NeuroBERT-Mini的静态量化版本，专为边缘设备优化的微型BERT模型

Qwen2.5-72B-Instruct的GGUF量化版本，支持多种精度格式，适用于不同硬件环境的高效推理。

bert-lite是一款轻量级的自然语言处理模型，基于BERT框架优化，专为低资源环境设计，适用于MNLI和NLI等任务。