# エッジデバイス推論

軽量音声ストレス認識モデル。知識蒸留技術を用いて訓練され、エッジデバイスでのリアルタイムストレス検出に適しています。

Dans-PersonalityEngine-V1.3.0-24bは、50以上の専門データセットで微調整された多機能モデルシリーズで、多言語と専門分野のタスクをサポートします。

Qwen3-8Bをベースにした量子化バージョンで、IQ-DynamicGate超低ビット量子化技術を採用し、メモリ効率と推論速度を最適化

Salesforceが開発した8Bパラメータの大型アクションモデル(LAM)。ユーザーの意図を実行可能なアクションに変換することに特化しており、マルチターン対話やツール使用において優れた性能を発揮します。

IQ-DynamicGate技術を採用した超低ビット量子化(1-2ビット)モデルで、メモリ制約のあるデバイスや効率的な推論シナリオに適しています

Qwen2.5-7B-InstructはQwen2.5-7Bを基にした命令微調整モデルで、テキスト生成タスクをサポートし、特にチャットシナリオでのパフォーマンスを最適化しています。

GLM-Z1-32B-0414は32Bパラメータ規模の多言語テキスト生成モデルで、中国語と英語をサポートし、MITライセンスで公開されています。

IQ-DynamicGate技術を採用した超低位量子化(1-2ビット)モデルで、メモリ制約のあるデバイスやエッジコンピューティングシナリオに適しています

OLMo-2-0325-32B-DPOをベースにした命令微調整モデルで、IQ-DynamicGate超低ビット量子化技術を採用し、メモリ制約環境向けに最適化されています。

IBM Graniteシリーズ8Bパラメータ命令微調整言語モデル、IQ-DynamicGate超低ビット量子化技術を採用し、効率的な推論シーンに適応

Mistral-7B-Instruct-v0.1はMistral-7B-v0.1を基にしたファインチューニングモデルで、テキスト生成タスクをサポートし、IQ-DynamicGate超低ビット量子化技術を採用しており、メモリ制約のあるデプロイ環境に適しています。

ベトナム語用に最適化されたRAG版LLaMA3.2モデルで、Metaの軽量LLMをベースに開発され、ローカルおよびエッジデバイスへのデプロイに適しています。