# 効率的な量子化

StrawberryLemonade-L3-70B-v1.0は、量子化処理された大規模言語モデルで、様々なハードウェア条件下で効率的に動作することを目的としています。

Wan14BT2VFusionXはテキストから動画を生成するモデルで、ComfyUI - GGUFのカスタムノードを通じて動画生成をサポートします。

Qwenベースのビジュアルストーリーテリングモデルの量子化バージョンで、フレーム間の一貫性のあるストーリー生成と画像からテキストへの変換タスクに特化

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、一連の高密度型および混合専門家（MoE）モデルを提供しています。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

andrewzhのAbsolute_Zero_Reasoner-Coder-7bモデルを基にしたLlamacpp量子化バージョンで、複数の量子化レベルをサポートし、推論やコード生成タスクに適しています。

Qwen3-14B-AWQは通義千問シリーズの最新世代大規模言語モデルの4-bit AWQ量子化バージョンで、思考モードと非思考モードのシームレスな切り替えをサポートし、強力な推論、指示追従、インテリジェントエージェント能力を備えています。

dreamgen/lucid-v1-nemo を基にした量子化モデルで、llama.cpp を使用して様々な量子化処理を行い、テキスト生成タスクに適しています。

これは韓国語に最適化された3Bパラメータ規模の言語モデルで、llama.cppとの互換性のためにGGUF形式に変換されています。

このモデルはmlabonne/gemma-3-4b-it-abliteratedをベースに変換されたGGUF形式のバージョンで、ローカルでの実行と推論に適しています。

CohereForAIがリリースしたCommand Rモデルの量子化バージョンで、知識を大衆に利用してもらうことを目的としています。

EXAONE Deepシリーズモデルは数学やプログラミングなどの推論タスクで優れた性能を発揮し、本モデルは24億パラメータのAWQ量子化バージョンです

InternVL2_5-4B-AWQ は autoawq を使用して InternVL2_5-4B を AWQ 量子化したバージョンで、多言語およびマルチモーダルタスクをサポートします。

ozone-ai/0x-liteモデルに基づく量子化バージョンで、中英テキスト生成タスクをサポートし、llama.cppを使用したimatrix量子化を採用し、さまざまなハードウェア要件に対応する複数の量子化オプションを提供します。

これはTheDrummer/Gemmasutra-9B-v1.1モデルを基にした量子化バージョンで、llama.cppを使用して量子化処理されており、テキスト生成タスクに適しています。

このモデルはbigscience/mt0-xxl-mtからllama.cppを使用してGGUF形式に変換された多言語テキスト生成モデルで、さまざまな言語タスクをサポートしています。

Llama3アーキテクチャを最適化した8Bパラメータの要約生成モデルで、複数の量子化バージョンを提供

IBM Granite 8Bコード指令モデルで、128kの文脈長をサポートし、コード生成と指令理解タスクに特化しています。

Qwen2.5-Coder-3B-Instructモデルに基づいて量子化処理を行い、コード生成と対話インタラクションに対して効率的で便利な解決策を提供します。

Llama-3.2-1B-InstructのGGUF形式のバージョンで、より広範なサポートとより良いパフォーマンスを提供します。

FLUX.1-schnell は、拡散モデルアーキテクチャに基づく効率的なテキストから画像生成モデルで、英語テキスト入力から高品質な画像を生成できます。

FLUX.1-schnellの量子化バージョン、テキストから画像を生成する拡散モデルで、複数の量子化精度オプションをサポート

このモデルはggml.aiのGGUF-my-repoスペースを使用し、llama.cppによってBAAI/bge-m3からGGUF形式に変換された文類似度モデルです。

Mistral-7B-Instruct-v0.3の量子化バージョン、さまざまなハードウェア要件に対応するための複数の量子化オプションを提供

DeepSeek-V2-ChatのGGUF量子化バージョンで、ローカル展開と実行に適しています。

Chronosは言語モデルアーキテクチャに基づく事前学習済み時系列予測モデルファミリーで、量子化とスケーリングにより時系列をトークン系列に変換して学習します。

Chronosは言語モデルアーキテクチャに基づく事前学習済み時系列予測モデルファミリーで、時系列をトークン系列に変換して訓練し、確率的予測を実現します。

LLaVA 1.6 34Bはオープンソースのマルチモーダルチャットボットモデルで、マルチモーダル命令追従データで大規模言語モデルをファインチューニングして開発されました。画像テキストからテキスト生成タスクをサポートします。