# エッジコンピューティング最適化

Devstral-Small-2505の量子化バージョン、さまざまなハードウェア要件に対応するための複数の精度オプションを提供

これは非常にコンパクトで高速な日本語リランキングモデルで、RAGシステムの精度向上に適しており、CPUやエッジデバイス上でも効率的に動作します。

GLM-Z1-9B-0414 は中英バイリンガルのテキスト生成モデルで、GGUFフォーマットを採用し、BF16から超低ビット量子化（1-2ビット）までの複数の量子化レベルに対応しています。

IQ-DynamicGate技術を採用した超低ビット量子化(1-2ビット)言語モデル、メモリ制約環境に適応

Falcon-E-3B-Instructは1.58ビットアーキテクチャに基づく高効率な言語モデルで、エッジデバイス向けに最適化されており、優れた推論能力と低メモリ消費を特徴とします。

Falcon-E-1B-Instructは、1.58ビットアーキテクチャに基づく効率的な言語モデルで、エッジデバイス向けに最適化されており、低メモリ使用量と高性能を特徴としています。

Falcon-E-1B-Base はTIIによって開発された効率的な1.58ビット言語モデルで、純粋なTransformerアーキテクチャを採用し、エッジデバイス向けに最適化されています。

Llama-3-8B-InstructベースのIQ-DynamicGate超低ビット量子化(1-2ビット)モデルで、精度適応量子化技術を採用し、極限のメモリ効率を維持しながら推論精度を向上させます。

Glm-Edge-V-5B-GGUFは、中英多言語対応の画像テキスト生成モデルで、GLMアーキテクチャに基づいて開発されました。

FLUX.1-Canny-dev はテキストから画像を生成するモデルで、画像生成タスクに特化しています。

GLM-Edge-V-2BはPytorchフレームワークに基づく画像テキストからテキストへのモデルで、中国語処理をサポートしています。

TinyLlama-1.1B-Chat-v1.0をベースにした混合モデルで、軽量なLLMソリューションを提供

これはMIT/ast-finetuned-speech-commands-v2を変換したOpenVINO最適化バージョンで、音声コマンド認識タスクの推論処理を高速化します。