# 邊緣設備優化

phi-2 是一個採用 IQ-DynamicGate 超低比特量化（1-2 比特）的文本生成模型，適用於自然語言處理和代碼生成任務。

基於Llama-3-8B架構優化的超低比特量化模型，採用IQ-DynamicGate技術實現1-2比特精度自適應量化，適用於內存受限環境。

OlympicCoder-32B是基於Qwen2.5-Coder-32B-Instruct的代碼生成模型，採用IQ-DynamicGate超低位量化技術，適用於內存受限環境下的高效推理。

BERT-Emotion 是一款基於 bert-lite 和 NeuroBERT-Mini 的輕量級自然語言處理模型，專為邊緣和物聯網設備上的短文本情緒檢測而優化。

EXAONE-Deep-32B是一個32B參數的大語言模型，支持英語和韓語，專為文本生成任務設計。

基於Llama-3架構的8B參數模型，採用IQ-DynamicGate超低比特量化技術優化內存使用

採用IQ-DynamicGate技術的超低位量化（1-2比特）的7.8B參數模型，支持英語和韓語文本生成任務。

這是一個基於 Mistral-Small-3.1-24B-Base-2503 的指令微調模型，採用 GGUF 格式和 IQ-DynamicGate 超低比特量化技術。

Qwen2.5-7B-Instruct-1M是基於Qwen2.5-7B的指令微調版本，採用IQ-DynamicGate超低位量化技術（1-2比特），適用於內存受限環境下的高效推理。

Llama-3.1-8B-Instruct 是基於 Llama-3-8B 的指令調優版本，採用 IQ-DynamicGate 技術進行超低位量化（1-2 比特），在保持內存效率的同時提升準確性。

Mistral-7B-Instruct-v0.2是基於Mistral-7B架構的指令微調模型，支持文本生成任務，採用IQ-DynamicGate超低比特量化技術優化內存效率。

基於LLaMA-3B構建的微調推理模型，增強推理能力，支持多語言處理

微型代理-α是基於Qwen2.5-Coder系列模型訓練的輕量級AI代理，專為邊緣設備設計，支持Pythonic函數調用方式。

基於DistilBERT架構構建的多標籤內容審核系統，用於檢測和分類用戶評論中的潛在有害內容，具有高精度和輕量級特點。

一個微型印地英語混合對話文本補全模型，能夠用印地英語（Hinglish）進行日常生活話題的對話。

Moondream2的微調版本，專為圖像提示生成優化，是一款輕量級視覺語言模型，適合在邊緣設備高效運行。