# マルチビット量子化

INTELLECT-2-GGUF は PrimeIntellect/INTELLECT-2 の GGUF フォーマット量子化バージョンで、テキスト生成タスクに適しています。

Dia 1.6Bはテキスト音声変換タスクに適したモデルで、複数の量子化バージョンをサポートし、TTS.cppフレームワークと互換性があります。

Qwen3-30B-A3BのGGUF量子化バージョンで、複数のビット量子化をサポートし、テキスト生成タスクに適しています。

Qwen3-0.6BのGGUF量子化バージョン、テキスト生成タスクに適しています。

これはmrfakename/mistral-small-3.1-24b-instruct-2503-hfモデルに基づくGGUFフォーマットの量子化バージョンで、テキスト生成タスクに適しています。

Gemma 3 27B 命令調整モデルのGGUF量子化バージョン、テキスト生成タスクに適しています。

Gemma 3BモデルのGGUF量子化バージョン、ローカルテキスト生成タスクに適しています

Mistral-Small-24B-Instruct-2501のGGUF量子化バージョンで、ローカル展開とテキスト生成タスクに適しています。

Llama-3.2-3B-Instruct-abliteratedのGGUF形式量子化バージョンで、複数のビット量子化オプションをサポートし、テキスト生成タスクに適しています。

Yi-Coder-1.5B-Chat-GGUFは01-ai/Yi-Coder-1.5B-ChatのGGUFフォーマットモデルファイルで、テキスト生成タスクに適しています。

Phi-3.5-mini-instructのGGUF形式モデルファイルで、テキスト生成タスクに適しています。

Mistral-Nemo-Instruct-2407-GGUF は mistralai/Mistral-Nemo-Instruct-2407 の GGUF 形式量子化バージョンで、複数の量子化ビット数（2-bit から 8-bit）をサポートし、テキスト生成タスクに適しています。

Mistral-7B-Instruct-v0.3のGGUF量子化バージョン、ローカル推論用テキスト生成モデル

Llama-3-8B-Instruct-64kのGGUF量子化バージョンで、複数のビット量子化をサポートし、テキスト生成タスクに適しています。

Llama-3-8B-Instruct-32k-v0.1のGGUF量子化バージョンで、複数のビット量子化をサポートし、テキスト生成タスクに適しています。

abacusai/Llama-3-Smaug-8Bを基にしたGGUFフォーマットの量子化モデルで、2-8ビットの量子化レベルをサポートし、テキスト生成タスクに適しています

Mixtral-8x22B-v0.1をファインチューニングした1410億パラメータの混合エキスパートモデル(MoE)、活性化パラメータ350億、主に英語テキスト生成タスク用

Saul-Instruct-v1-GGUF は Equall/Saul-Instruct-v1 モデルの GGUF フォーマット版で、テキスト生成タスクに適しており、複数の量子化レベルをサポートしています。

phi-2-super-GGUF は abacaj/phi-2-super モデルの GGUF 量子化バージョンで、ローカル実行とテキスト生成タスクに適しています。

Gemma 2BモデルのGGUF量子化バージョン、ローカル展開と推論に適しています

Mistral-7Bベースのテキストランキングモデルで、複数の量子化バージョンを提供し、効率的な推論に適しています。

これはMistral-7B-Instruct-v0.1を微調整したドイツ語/英語のバイリンガルモデルで、GGUF形式で量子化されており、2-8ビットの複数の量子化レベルをサポートしています。