# 大規模モデルの軽量化

これはTheDrummerのCydonia-24B-v3モデルの量子化バージョンで、llama.cppを使用して量子化処理を行い、さまざまなハードウェアや使用シーンに適応するための複数の量子化オプションを提供しています。

これはQwen3-30B-A3B-abliteratedの4ビット量子化モデルで、パラメータ規模は8B相当で、テキスト生成タスクに適しています。

Qwen/Qwen3-32Bを基にした量子化バージョンで、llama.cppを使用して量子化されており、様々な量子化タイプをサポートし、異なるハードウェア要件に対応します。

GLM-4-32B-0414-4bit は THUDM/GLM-4-32B-0414 から変換された MLX フォーマットモデルで、中国語と英語のテキスト生成タスクをサポートします。

Wan2.1-FLF2V-14B-720P は画像から動画を生成するモデルで、様々な動画制作シーンに適しています。

これはBELLE-2/Belle-whisper-large-v3-turbo-zhモデルのCTranslate2形式変換バージョンで、効率的な音声認識タスクに適しています。

LLM2Vecは、デコーダのみのアーキテクチャを持つ大規模言語モデルをテキストエンコーダに変換するソリューションで、双方向アテンション、マスクされた次単語予測、教師なしコントラスト学習を有効にすることで変換を実現します。

Molmo-7B-DはBnB 4ビット量子化を施した大規模言語モデルで、モデルサイズが30GBから7GBに縮小され、VRAM要件が約12GBに抑えられます。

これはCoForAI/c4ai-command-r-08-2024モデルを変換したGGUF形式のテキスト生成モデルで、複数言語をサポートしています。

マレーシアデータセットで蒸留最適化されたWhisper Large V3音声認識モデル、マレー語など複数言語をサポート