# 高効率量子化

百度ERNIE-4.5-0.3B-PTモデルに基づく量子化バージョンで、llama.cppツールを通じて最適化され、モデルサイズを削減し、実行効率を向上させます。

これはBAAIのRoboBrain2.0-7Bモデルの量子化バージョンで、llama.cppを通じて量子化処理を行い、さまざまなハードウェアのニーズに対応するための複数の量子化タイプを提供します。

DeepSeek-R1-Distill-Qwen-14Bは、14Bパラメータ規模の最適化された大規模言語モデルで、DeepSeek AIによってリリースされ、Qwenアーキテクチャに基づいて蒸留され、性能向上のために複数のGGUF量子化バージョンを提供します。

Medra27Bの量子化バージョンで、複数の量子化タイプを提供し、テキスト生成、医療人工知能などの複数の分野に適用されます。

Gemma 3 12Bは大型言語モデルで、GGUF形式の量子化バージョンを提供し、ローカルデプロイと使用に適しています。

IBM Graniteチームによって開発された多言語埋め込みモデルの量子化バージョンで、17種類の言語のテキスト埋め込みタスクをサポートし、検索や情報抽出などのシナリオに適しています。

これはMistralアーキテクチャに基づく7Bパラメータのモデルで、量子化最適化を行い、さまざまなGGUF量子化バージョンを提供して、異なるハードウェア要件に対応します。

Molmo-7B-Oの4bit量子化バージョンで、VRAM要件を大幅に削減し、リソースが限られた環境に適しています。

Phi-3.5-mini-instruct_Uncensoredは量子化された言語モデルで、さまざまなハードウェア条件での使用に適しています。

これはopenchat/openchat-3.6-8b-20240522モデルをLlama.cpp imatrix量子化処理したバージョンで、異なる量子化タイプのファイルを提供し、ユーザーが必要に応じてダウンロードして使用できるようにしています。

DeepSeek-V2-Lite の GGUF 量子化バージョンで、Llama.cpp imatrix 量子化処理により、ストレージと計算リソースの要件を削減し、デプロイを容易にします。

特定のトルコ語データセットを基に微調整されたモデルで、トルコ語で正確に情報を回答でき、トルコ語関連のテキスト生成タスクに強力なサポートを提供します。