# 軽量展開

Qwen2.5-Omni-7B-GGUF は Qwen2.5-Omni-7B モデルの GGUF フォーマット版で、テキスト、音声、画像を含むマルチモーダル入力をサポートします。

Cosmos-Reason1-7BはNVIDIAがリリースした70億パラメータ規模のベースモデルで、画像からテキストへの変換タスクに特化しています。

Devstral-Small-2505はMistralアーキテクチャに基づく小型言語モデルで、テキスト生成タスクをサポートし、互換性のあるmmprojファイルを通じて基本的な視覚機能を実現可能です。

Qwen/Qwen2-VL-2B-Instructをファインチューニングしたマルチモーダルモデルで、OCR、画像からテキストへの変換、LaTeX数式解決、手書き認識に最適化

Skywork-OR1-7Bは7Bパラメータ規模の大規模言語モデルで、さまざまなハードウェアニーズに対応するために複数の量子化バージョンを提供します。

ACE-Step-v1-3.5Bはテキストからオーディオへの変換モデルで、高品質なオーディオ生成をサポートし、音楽やサウンドエフェクトの作成に適しています。

Qwen3-8Bを最適化した8ビット量子化バージョン、MLXフレームワーク向けの効率的な推論に適応

Qwen3-8B-4bit-DWQ は Qwen/Qwen3-8B を MLX フォーマットに変換した 4 ビット量子化バージョンで、Apple デバイス上で効率的に動作します。

このモデルはMYZY-AI/Muyan-TTS-SFTから変換されたGGUF形式のテキスト音声変換モデルで、中国語音声合成をサポートしています。

Foundation-Sec-8B はTransformerアーキテクチャに基づく大規模言語モデルで、テキスト生成タスクに特化しています。

Qwen3-1.7Bをベースにした4ビット量子化バージョン、MLXフレームワーク向けの軽量大規模言語モデル

これはQwen/Qwen3-8Bモデルの4ビット量子化バージョンで、MLXフレームワーク形式に変換されており、Appleチップデバイスでの効率的な推論に適しています。

Qwen3-4B-4bit は Qwen/Qwen3-4B から MLX フォーマットに変換された 4 ビット量子化バージョンで、Apple チップ上での効率的な実行に適しています。

Mistral-Small-24B-Instruct-2501は24Bパラメータ規模の命令ファインチューニング大規模言語モデルで、多言語テキスト生成タスクをサポートします。

GemmaはGoogleが提供する軽量オープンモデルシリーズで、Geminiモデル技術を基に構築されています。Gemma 3はマルチモーダルモデルで、テキストと画像の入力をサポートし、テキスト出力を生成します。128Kの大規模コンテキストウィンドウと多言語能力を備えています。

これはLlamaアーキテクチャに基づくマルチモーダルモデルで、視覚とテキストの命令をサポートし、4ビット量子化で最適化されています。

Meta-Llama-3.1-8B-Instructをベースにした統合モデルで、法律分野の要約タスク向けに微調整されており、法律用語を簡潔で分かりやすい要約に変換できます。

このモデルはIBM Granite-3.3-8B命令微調整モデルから変換されたGGUF形式のモデルで、テキスト生成タスクに適しています。

Salesforceがリリースした8億パラメータ規模のLlama-xLAM-2モデルの量子化バージョンで、テキスト生成タスクに特化

これはcanopylabs/3b-fr-ft-research_releaseモデルを変換したGGUF形式のフランス語言語モデルで、テキスト生成タスクに適しています。

GLM-4-Z1-9B-0414はGLMファミリーの新世代オープンソースモデルで、優れた数学推論と汎用能力を備え、リソースが限られた環境での軽量展開に適しています。

このモデルはmlabonne/gemma-3-4b-it-abliteratedのGGUF形式変換バージョンで、x-ray_alphaの視覚コンポーネントを統合し、よりスムーズなマルチモーダル体験を提供します。

BAAI/bge-large-zh-v1.5は中国語文変換モデルで、主に特徴抽出と文類似度計算に使用されます。

これはQwen2.5-VL-7B-InstructモデルのGGUF量子化バージョンで、マルチモーダルタスクに適しており、画像とテキスト入力をサポートします。

Open-Qwen2VLはマルチモーダルモデルで、画像とテキストを入力として受け取り、テキスト出力を生成できます。

これはmlabonne/gemma-3-4b-it-abliteratedモデルを基にした量子化バージョンで、llama.cppを使用してimatrix量子化を行い、画像テキストからテキストへのタスクに適しています。

これはmlabonne/gemma-3-27b-it-abliteratedから変換されたGGUF形式モデルで、llama.cppフレームワークに適しています。

YOLOEはリアルタイム視覚万能モデルで、物体検出と視覚理解能力を組み合わせ、様々な視覚タスクに適用可能です。

これはQwen2.5-14B-Instruct-1Mを基にした量子化モデルで、GGUF形式に変換されており、llama.cppフレームワークに適しています。

Gemma 3 27B 命令調整モデルのGGUF量子化バージョン、テキスト生成タスクに適しています。

MiniCPM-o-2_6 はマルチモーダル変換モデルで、複数の言語をサポートし、様々なタスクに適しています。

TraceBack 12b は Mistral-Nemo-Instruct アーキテクチャに基づく4ビット量子化バージョンで、命令追従と思考連鎖推論タスクに特化しています。

Model Stock手法で融合されたLlama 3.1 8Bシリーズモデルで、DolermedとSmarteazの2つのバリアントの長所を組み合わせています

Chroma-GGUFはlodestones/Chromaをベースとした量子化モデルのコレクションで、さまざまな精度の量子化バージョンを提供し、異なるハードウェアと性能要件に対応します。

ozone-ai/0x-liteモデルに基づく量子化バージョンで、中英テキスト生成タスクをサポートし、llama.cppを使用したimatrix量子化を採用し、さまざまなハードウェア要件に対応する複数の量子化オプションを提供します。

このモデルはllama.cppを使用してthenlper/gte-large-zhから変換されたGGUF形式のモデルで、主に中国語テキストの埋め込みと文の類似度計算に使用されます。

これはQwen2.5-VL-3B-Instructモデルを基にした8ビット量子化バージョンで、MLXフレームワーク向けに最適化されており、画像テキスト生成タスクをサポートします。

このモデルはDeepSeek-R1-ReDistill-Qwen-7B-v1.1を変換したGGUF形式モデルで、テキスト生成タスクに適しています。

deepseek-ai/Janus-Pro-1Bを基にした4ビット量子化バージョン、AppleチップのMLXフレームワークに適応

LLaVA-Llama3はLlama-3をベースとしたマルチモーダルモデルで、画像とテキストの共同処理をサポートします。