# 邊緣設備推理

輕量級語音壓力識別模型，通過知識蒸餾技術訓練，適用於邊緣設備即時壓力檢測

Dans-PersonalityEngine-V1.3.0-24b是一個多功能模型系列，在50多個專業數據集上進行了微調，支持多語言和專業領域任務。

基於Qwen3-8B的量化版本，採用IQ-DynamicGate超低位量化技術，優化內存效率和推理速度

Salesforce開發的8B參數大型動作模型(LAM)，專注於將用戶意圖轉化為可執行動作，在多輪對話和工具使用方面表現優異。

Qwen2.5-7B-Instruct是基於Qwen2.5-7B的指令微調模型，支持文本生成任務，特別優化了聊天場景下的表現。

採用IQ-DynamicGate技術的超低位量化（1-2位）模型，適用於內存受限設備和高效推理場景

GLM-Z1-32B-0414是一個32B參數規模的多語言文本生成模型，支持中文和英文，採用MIT許可證發佈。

採用IQ-DynamicGate技術的超低位量化(1-2比特)模型，適用於內存受限設備和邊緣計算場景

基於OLMo-2-0325-32B-DPO的指令微調模型，採用IQ-DynamicGate超低比特量化技術，專為內存受限環境優化。

IBM Granite系列8B參數指令微調語言模型，採用IQ-DynamicGate超低比特量化技術，適用於高效推理場景

Mistral-7B-Instruct-v0.1是一個基於Mistral-7B-v0.1的微調模型，支持文本生成任務，採用IQ-DynamicGate超低比特量化技術，適用於內存受限的部署環境。

專為越南語優化的RAG版LLaMA3.2模型，基於Meta的輕量級LLM開發，適合本地和邊緣設備部署。