# 边缘设备推理

轻量级语音压力识别模型，通过知识蒸馏技术训练，适用于边缘设备实时压力检测

Dans-PersonalityEngine-V1.3.0-24b是一个多功能模型系列，在50多个专业数据集上进行了微调，支持多语言和专业领域任务。

基于Qwen3-8B的量化版本，采用IQ-DynamicGate超低位量化技术，优化内存效率和推理速度

Salesforce开发的8B参数大型动作模型(LAM)，专注于将用户意图转化为可执行动作，在多轮对话和工具使用方面表现优异。

Qwen2.5-7B-Instruct是基于Qwen2.5-7B的指令微调模型，支持文本生成任务，特别优化了聊天场景下的表现。

采用IQ-DynamicGate技术的超低位量化（1-2位）模型，适用于内存受限设备和高效推理场景

GLM-Z1-32B-0414是一个32B参数规模的多语言文本生成模型，支持中文和英文，采用MIT许可证发布。

采用IQ-DynamicGate技术的超低位量化(1-2比特)模型，适用于内存受限设备和边缘计算场景

基于OLMo-2-0325-32B-DPO的指令微调模型，采用IQ-DynamicGate超低比特量化技术，专为内存受限环境优化。

IBM Granite系列8B参数指令微调语言模型，采用IQ-DynamicGate超低比特量化技术，适用于高效推理场景

Mistral-7B-Instruct-v0.1是一个基于Mistral-7B-v0.1的微调模型，支持文本生成任务，采用IQ-DynamicGate超低比特量化技术，适用于内存受限的部署环境。

专为越南语优化的RAG版LLaMA3.2模型，基于Meta的轻量级LLM开发，适合本地和边缘设备部署。