# 邊緣設備部署

MiniCPM4 是一款專為端側設備設計的高效大語言模型，在相同規模下保持最優性能的同時實現了極致的效率提升，在典型端側芯片上可實現超 5 倍的生成加速。

PP-OCRv3_mobile_rec 是 PaddleOCR 團隊開發的輕量級文本行識別模型，採用 SVTR 算法，支持中英文識別，尤其專注於中文場景。

Holo1-7B GGUF模型是Surfer-H系統的一部分，適用於視覺文檔檢索等多模態任務，特別擅長網頁交互和網絡監控，能以較低成本實現高準確性。

Llama-3.1-Nemotron-Nano-VL-8B-V1是一款先進的文檔智能視覺語言模型，能夠對圖像和視頻進行查詢與總結，支持多環境部署。

Llama-3.1-Nemotron-Nano-4B-v1.1是一款基於Llama 3.1優化的大語言模型，在準確性和效率間取得良好平衡，適用於AI代理、聊天機器人等多種場景。

Qwen3是Qwen系列最新一代的大語言模型，提供了一系列密集和混合專家(MoE)模型，在推理、指令遵循、代理能力和多語言支持方面取得了突破性進展。

AceMath-RL-Nemotron-7B 是一個完全通過強化學習訓練的數學推理模型，基於 Deepseek-R1-Distilled-Qwen-7B 進行訓練，在數學推理任務中表現出色，同時在編碼任務上也有一定的泛化能力。

D-FINE是一種強大的即時目標檢測器，通過重新定義DETR模型中的邊界框迴歸任務，實現了卓越的定位精度。

D-FINE 是一種即時目標檢測模型，通過重新定義邊界框迴歸任務，實現了卓越的定位精度。

Qwen2.5-VL-3B-Instruct是一個3B參數規模的多模態模型，支持圖文生成任務，特別優化了在llama.cpp中的視覺功能支持。

Qwen2.5-VL-7B-Instruct 是一個多模態視覺語言模型，支持圖像理解和文本生成任務。

Gemma 3 27B參數的GGUF量化版本，支持圖像文本交互任務

RT-DETRv2是基於DETR架構改進的即時目標檢測模型，通過選擇性多尺度特徵提取和動態數據增強等創新點優化了檢測性能。

RT-DETRv2是即時目標檢測Transformer模型的改進版本，通過多尺度特徵提取和優化訓練策略提升性能。

Qwen2-Audio是先進的小規模多模態模型，支持音頻與文本輸入，無需依賴語音識別模塊即可實現語音交互。

Retinaface是基於MobileNet或ResNet50骨幹網絡的輕量級人臉檢測模型，可高效定位人臉並提供面部關鍵點座標。