# 軽量デプロイ

Mi:dm 2.0は、KTの独自技術を用いて開発された「韓国を中心としたAI」モデルで、韓国社会独自の価値観、認知枠組み、常識推論を深く内包しています。

騰訊混元A13B指令モデルの量子化バージョンで、技術的手段により性能を維持しながら実行効率を向上させます。

これはQari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-mergedモデルに基づく静的量子化バージョンで、主に画像からテキストへの変換タスクに使用されます。

このプロジェクトは最適化されたGGUF量子化ファイルを提供し、モデルの性能を大幅に向上させることができます。これらの量子化ファイルはFeatherless AIによってサポートされており、ユーザーは少量の費用を支払うだけで、任意の必要なモデルを実行することができます。

ソフトウェアエンジニアリングプロジェクト向けに特別に開発された高効率な言語モデルで、軽量設計で128kの大きなコンテキストウィンドウをサポートし、複雑なコーディングタスクに適しています。

このプロジェクトはkakaocorp/kanana-safeguard-8bの量子化バージョンで、知識を大衆に利用させることに取り組んでいます。

これはDeepSeek-R1-0528-Qwen3-8Bモデルを変換したMLX形式の8ビット量子化バージョンで、テキスト生成タスクに適しています。

このモデルはDeepSeek-R1-0528-Qwen3-8Bを基に変換された4ビット量子化バージョンで、MLXフレームワーク用に最適化されており、テキスト生成タスクに適しています。

Devstral-Small-2505の量子化バージョン、さまざまなハードウェア要件に対応するための複数の精度オプションを提供

DevstralはMistral AIとAll Hands AIが共同開発したソフトウェアエンジニアリングタスク向けのインテリジェントエージェント大規模言語モデルで、ツールを活用したコードベースの探索、マルチファイル編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

Devstral-Small-2505-8bitは、mistralai/Devstral-Small-2505を基に変換された8ビット量子化モデルで、MLXフレームワークに適しており、複数の言語のテキスト生成タスクをサポートします。

Devstralはソフトウェアエンジニアリングタスク向けに設計されたインテリジェントな大規模言語モデルで、Mistral AIとAll Hands AIの共同開発により、コードベースの探索、マルチファイル編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

Devstralはソフトウェアエンジニアリングタスク専用に設計されたインテリジェントLLMで、Mistral AIとAll Hands AIが共同開発し、コード探索、マルチファイル編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

Devstralはソフトウェアエンジニアリングタスク専用に設計されたインテリジェントな大規模言語モデルで、Mistral AIとAll Hands AIの共同開発により、コード探索、マルチファイル編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

DevstralはMistral AIとAll Hands AIが共同開発したソフトウェアエンジニアリングタスク向けの大規模言語モデルエージェントで、ツールを使用したコードベースの探索、複数ファイルの編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

Devstralはソフトウェアエンジニアリングタスク専用に設計されたインテリジェントな大規模言語モデルで、Mistral AIとAll Hands AIの協力により開発され、コード探索、編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

Sam-reason-S2.1の静的量子化バージョンで、さまざまなハードウェア要件に対応するための複数量子化オプションを提供

このモデルはllava-hf/llava-1.5-7b-hfから変換されたGGUF形式モデルで、画像テキスト生成タスクをサポートします。

TEN VADは、リアルタイム音声処理シナリオに適した、低遅延で軽量、高性能なストリーミング音声活動検出システムです。

DevstralはMistral AIとAll Hands AIが共同開発したソフトウェアエンジニアリングタスク向けのインテリジェント大規模言語モデルで、コードベースの探索、マルチファイル編集、ソフトウェアエンジニアリングエージェントの駆動に優れています。

INTELLECT-2-GGUF は PrimeIntellect/INTELLECT-2 の GGUF フォーマット量子化バージョンで、テキスト生成タスクに適しています。

このモデルはQwen3-4Bの4ビットDWQ量子化バージョンで、MLX形式に変換され、mlxライブラリを使用したテキスト生成が容易になります。

これは🤗 transformersライブラリに基づくモデルで、具体的な機能や用途はまだ明確に説明されていません。

OpenVisionは完全オープンでコストパフォーマンスに優れた先進的な視覚エンコーダーファミリーで、マルチモーダル学習タスクに焦点を当てています。

OpenVisionは完全オープンでコストパフォーマンスに優れた先進的な視覚エンコーダーファミリーで、マルチモーダル学習に焦点を当てています。

慧慧AIのQwen3-4Bモデルの量子化バージョンで、知識をより広く大衆に利用してもらうことを目的としています。

これは自動音声認識モデルで、MLXに適したバージョンに変換されており、高速に推論を行うことができます。

OLMo-2-0425-1B-InstructはAllenAIが開発した10億パラメータ規模の命令ファインチューニング言語モデルで、テキスト生成タスクに特化しています。

Phi-4-mini-reasoningは合成データに基づいて構築された軽量のオープンモデルで、高品質で推論に富んだデータに焦点を当て、より高度な数学的推論能力に対してさらに微調整されています。

これはQwen3-4BモデルをMLXフォーマットに変換した6ビット量子化バージョンで、テキスト生成タスクに適しています。

これはQwen3-4BモデルをMLX形式に変換した4ビット量子化バージョンで、テキスト生成タスクに適しています。

Qwen3-4B-abliteratedの量子化バージョンで、llama.cppを使用して量子化されており、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

これは Josiefied-Qwen3-4B-abliterated-v1 モデルの GGUF 量子化バージョンで、ローカルデプロイと実行に適しています。

Diaは16億パラメータのオープンソーステキスト音声変換モデルで、高度にリアルな対話や非言語表現の生成をサポート

InternVL2_5-1Bに基づく4ビット量子化バージョンで、テキスト生成とチャットシーンに適しています。

このリポジトリにはJungZoona/T3Q-qwen2.5-14b-v1.0-e3のGGUFフォーマットモデルファイルが含まれており、TensorBlockが提供するマシンで量子化され、llama.cppと互換性があります。

Llamaアーキテクチャに基づく3Bパラメータの言語モデルで、様々なハードウェア要件に対応する複数量化バージョンを提供

Diaはオープンソースのテキストから対話を生成するモデルで、対話テキスト生成と音声合成をサポートします。

Gemma 3はGoogleが開発した軽量マルチモーダルモデルで、テキストと画像の入力を処理し、テキスト出力を生成することができます。このモデルは128Kの大きなコンテキストウィンドウと140種類以上の言語のマルチ言語サポートを備えています。

命令追従能力を備えた韓国語最適化テキスト生成モデルで、軽量設計によりエッジデバイスへのデプロイに適しています