# ローカルデプロイ

Jan-nano-8bitは、Menlo/Jan-nanoモデルを変換した8ビット量子化バージョンで、MLXフレームワーク用に最適化され、テキスト生成タスクに適しています。

Jan-Nanoは40億パラメータのコンパクトな言語モデルで、深度研究タスク用に設計され、MCPサーバーの統合を最適化しています。

MiniCPM4-8B-Q8_0-GGUFは、llama.cppを使用してopenbmb/MiniCPM4-8BをGGUF形式に変換したモデルで、ローカル推論に適しています。

チンダLLM 4BはiApp Technologyが開発した最先端のタイ語モデルで、Qwen3-4Bアーキテクチャに基づいて構築され、タイのAIエコシステムに高度な思考能力をもたらします。

Qwen3-8B-4bit-AWQは、Qwen/Qwen3-8Bを基に変換された4ビットAWQ量子化バージョンで、MLXフレームワークのテキスト生成タスクに適しています。

Qwen3-30B-A3B-4bitはQwen/Qwen3-30B-A3Bを変換した4ビット量子化バージョンで、MLXフレームワーク下での効率的なテキスト生成タスクに適しています。

Qwen/Qwen3-8Bを基に変換された8ビット量子化MLX形式の大規模言語モデルで、テキスト生成タスクに適しています。

Meta Llamaの基礎モデルに基づいて構築された画像テキストからテキストへの変換モデルで、gguf-connectorとllama-cpp-pythonを通じたインタラクションをサポートします。

このモデルはmlabonne/gemma-3-4b-it-abliteratedをベースに変換されたGGUF形式のバージョンで、ローカルでの実行と推論に適しています。

mlabonne/gemma-3-1b-it-abliteratedをベースに変換されたGGUF形式のモデルで、ローカル推論タスクに適しています。

これはmlabonne/gemma-3-27b-it-abliteratedモデルを基に変換された4ビット量子化バージョンで、MLXフレームワーク用に最適化されています。

Gemma 3 1BモデルのGGUF量子化バージョンで、テキスト生成タスクに適しています。

これはTheDrummer/Gemmasutra-9B-v1.1モデルを基にした量子化バージョンで、llama.cppを使用して量子化処理されており、テキスト生成タスクに適しています。

これはQwen2.5-Coder-0.5Bモデルを変換したGGUF形式のモデルで、コード生成タスクに適しています。

Llama-3.2-1B-InstructのGGUF形式のバージョンで、より広範なサポートとより良いパフォーマンスを提供します。

Phi-3.5-mini-instruct_Uncensoredは量子化された言語モデルで、さまざまなハードウェア条件での使用に適しています。

これは4ビット量子化された1億3500万パラメータの小型言語モデルで、リソースが限られた環境でのテキスト生成タスクに適しています。

DeepSeek-V2-Lite-Chatは軽量チャットモデルで、DeepSeek-V2アーキテクチャに基づいて最適化され、効率的な対話生成タスクに適しています。

これはGoogle Gemma 2Bモデルを変換したGGUF形式のモデルで、テキスト生成タスクに適しています。

Phi-3-mini-128k-instruct_function は GGUF フォーマットで量子化されたテキスト生成モデルで、複数の量子化レベルをサポートしています。

Llama 3 70B InstructのGGUF形式のバージョンで、より効率的なローカル実行体験を提供します。

LongAlpaca-13B-GGUFはYukang/LongAlpaca-13BモデルのGGUF形式量子化バージョンで、2-8ビットの量子化オプションをサポートし、ローカルテキスト生成タスクに適しています。

Stable-diffusion-GGUFはテキストから画像を生成するモデルで、複数の量子化バージョンを提供し、アート創作などの分野に適しています。

TinyLlamaは1.1Bパラメータの軽量Llamaモデルで、チャットやプログラミング支援タスクに最適化されています。

VITSアーキテクチャに基づくイタリア語女性音声合成モデルで、テキストを自然で流暢なイタリア語音声に変換できます。