# ローカル展開

Qwen3-235B-A22B-4bit-DWQはQwen3-235B-A22B-8bitモデルから変換された4ビット量子化バージョンで、テキスト生成タスクに適しています。

これはQwen/Qwen3-235B-A22Bモデルを変換した混合3-6ビット量子化バージョンで、Apple MLXフレームワーク向けの効率的な推論に適しています。

これはQwen3-8BモデルのGGUFフォーマット版で、llama.cppフレームワークに適しており、テキスト生成タスクをサポートします。

Qwen3-8BのGGUF形式量子化バージョン、TensorBlock提供、llama.cpp互換

Qwen3-0.6BのGGUF量子化バージョン、テキスト生成タスクに適しています。

Qwen3-14B-4bitはQwen/Qwen3-14Bモデルをmlx-lmで変換した4ビット量子化バージョンで、テキスト生成タスクに適しています。

Qwen3-8Bの量子化バージョンで、llama.cppのimatrixオプションを使用して量子化されており、テキスト生成タスクに適しています。

OuteTTSはトルコ語に特化したテキスト音声変換(TTS)モデルで、5億パラメータ規模を持ち、トルコ語テキストを自然な音声に変換できます。

Medraは臨床推論、教育、対話モデリング向けに設計された軽量級医学言語モデルで、Gemma 3を基盤としており、ローカルおよびモバイル環境に適しています。

DeepSeek-R1 は効率的な大規模言語モデルで、Unsloth Dynamic v2.0 量子化技術を採用し、卓越した精度を実現しています。

このモデルはcanopylabs/3b-zh-ft-research_releaseから変換されたGGUF形式のモデルで、中国語テキスト生成タスクに適しています。

google/gemma-3-4b-itモデルをベースに訓練されたマルチモーダルモデルで、数学、プログラミング、科学、パズル解決分野の高品質データ処理に特化しています。

これは韓国語に最適化された3Bパラメータ規模の言語モデルで、llama.cppとの互換性のためにGGUF形式に変換されています。

このモデルはcanopylabs/orpheus-3b-0.1-ftから変換されたGGUF形式モデルで、テキスト生成タスクに適しています。

このモデルはllama.cppを使用してgoogle/gemma-3-4b-itからGGUF形式に変換されたもので、ローカル展開と推論に適しています。

DeepSeek-V3-0324のGGUF量子化バージョンで、ローカルテキスト生成タスクに適しています。

これはmrfakename/mistral-small-3.1-24b-instruct-2503-hfモデルに基づくGGUFフォーマットの量子化バージョンで、テキスト生成タスクに適しています。

Gemma 3.4B IT は Google が開発したオープンソースの大規模言語モデルで、このバージョンは llama.cpp を使用して GGUF 形式に変換された 4-bit 量子化版です。

これはGoogle Gemma 3.4Bパラメータモデルを変換したGGUF形式のモデルで、テキスト生成タスクに適しています。

このモデルはgoogle/gemma-3-12b-itから変換されたGGUF形式モデルで、llama.cppフレームワークに適しています。

QwQ-32BのGGUF形式量子化バージョン、ローカルテキスト生成タスクに適しています。

このモデルはQwen2-VL-7B-Captioner-RelaxedをGGUF形式に変換したバージョンで、画像からテキストへのタスクに最適化されており、llama.cppやKoboldcppなどのツールで実行可能です。

Mistral-Small-24B-Instruct-2501のGGUF量子化バージョンで、ローカル展開とテキスト生成タスクに適しています。

これはozone-ai/llama-3.1-0x-miniから変換されたGGUF形式モデルで、llama.cppフレームワークに適しています。

これはタイ語女性音声のテキスト読み上げ(TTS)モデルで、VITSアーキテクチャを微調整しており、高品質なタイ語音声合成をサポートします。

Indriは英語とヒンディー語をサポートするテキスト音声変換(TTS)モデルで、124Mパラメータ規模を持ち、GGUFフォーマットでCPU推論を最適化しています。

MetaがリリースしたLlama 2シリーズ7BパラメータチャットモデルのGGUF量子化バージョン、ローカル展開と推論に適しています

アリババNLPチームによって開発された大規模言語モデル、Qwen2アーキテクチャに基づく7Bパラメータバージョン、命令インタラクションをサポート

これはSpeakLeashが開発したポーランド語大規模言語モデルBielik-11B-v2.3-InstructのGGUF量子化バージョンで、ローカル展開と使用に適しています。

Yi-Coder-1.5B-Chat-GGUFは01-ai/Yi-Coder-1.5B-ChatのGGUFフォーマットモデルファイルで、テキスト生成タスクに適しています。

Prem-1B-SQLはPrem AIが開発した10億パラメータのテキストからSQLへの変換モデルで、ローカル展開向けに設計されており、低スペックのGPUやCPUデバイスでの実行をサポートします。

Stable Diffusion 3 MediumのMLX実装、テキストから画像生成に特化

このモデルはggml.aiのGGUF-my-repoスペースで、llama.cppを使用してmicrosoft/Phi-3-mini-4k-instructから変換されたGGUF形式のモデルです。

これはMBZUAI/LaMini-Flan-T5-248Mモデルを変換したGGUF形式のモデルで、テキスト生成タスクに適しています。

Qwen2-7B-InstructのGGUF量子化バージョン、ローカル展開と推論に適しています

これはLlama-2-7bアーキテクチャに基づくウクライナ語と英語の言語モデルで、GGUF形式に変換されており、llama.cppフレームワークに適しています。

Vecteus-v1のGGUFフォーマット版、英語と日本語のテキスト生成に対応

Llama-3-8B-Instruct-64kのGGUF量子化バージョンで、複数のビット量子化をサポートし、テキスト生成タスクに適しています。

Llama-3-8B-Instruct-32k-v0.1のGGUF量子化バージョンで、複数のビット量子化をサポートし、テキスト生成タスクに適しています。

distil-whisper技術に基づくドイツ語音声認識モデルで、パラメータ数は7.56億、高品質を維持しながらより高速な推論を実現。