# 低リソースデプロイ

DiffuCoder-7B-cpGRPO-8bitはMLX形式に変換されたコード生成モデルで、apple/DiffuCoder-7B-cpGRPOをベースに変換され、開発者に高効率なコード生成ツールを提供するために設計されています。

UniReason-Qwen3-14B-RLの静的量子化バージョンで、テキスト生成と数学推理の研究シーンに適しています。

Google Gemma-3n-E2Bモデルの静的量子化バージョンで、モデルサイズとパフォーマンスのバランスを取るための複数の量子化タイプを提供します。

これはDelta-VectorのAustral-70B-Wintonモデルに対する量子化処理バージョンで、量子化技術を通じてモデルの保存と計算リソースの必要量を削減し、同時に良好な性能を維持し、リソースが限られたシナリオに適しています。

これはchandar - lab/NeoBERTモデルの静的量子化バージョンで、モデルの保存スペースと計算リソースの要件を削減することを目的としています。

Gama-12Bの量子化バージョンで、複数の量子化タイプのファイルを提供し、テキスト生成タスクに適しており、英語とポルトガル語をサポートします。

Gama-12Bは多言語対応の大規模言語モデルで、さまざまな量子化バージョンを提供して、異なる性能と精度の要件に対応します。

LongWriter-Zero-32B 量子化モデルは、THU-KEG/LongWriter-Zero-32B 基礎モデルに基づいており、中英バイリンガルをサポートし、強化学習やライティングなどの長文脈シナリオに適しています。

これはNVIDIA AceReason - Nemotron - 1.1 - 7Bモデルの量子化バージョンで、異なるハードウェアでのモデルの実行効率を最適化し、一定の性能と品質を維持します。

これはOpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QATの量子化バージョンで、量子化技術を利用して、さまざまなハードウェア条件下でより効率的にモデルを実行できます。

これはテキストからビデオへの量子化モデルで、特定の基礎モデルに基づいて量子化変換が行われ、さまざまなビデオ生成タスクをサポートします。

DeepSeek-R1-0528-Qwen3-8Bモデルを基に変換された6ビット量子化バージョンで、MLXフレームワークのテキスト生成タスクに適しています。

Blitzar-Coder-4B-F.1は、Qwen3-4Bをベースに微調整された、10種類以上のプログラミング言語をサポートする高効率の多言語コーディングモデルです。優れたコード生成、デバッグ、推論能力を備えています。

これはA8W8量子化されたマルチモーダル大規模言語モデルで、Qwen2.5-VL-7B-Instructに基づいており、視覚と言語のタスクをサポートします。

このプロジェクトは、Echelon-AI/Med-Qwen2-7BモデルのGGUF量子化ファイルを提供しており、Featherless AIによってサポートされています。モデルの性能を向上させ、実行コストを削減することを目的としています。

DeepSeek-R1-Distill-Qwen-14Bは、14Bパラメータ規模の最適化された大規模言語モデルで、DeepSeek AIによってリリースされ、Qwenアーキテクチャに基づいて蒸留され、性能向上のために複数のGGUF量子化バージョンを提供します。

Gemma 3nはGoogleが開発した軽量で最先端のオープンソースのマルチモーダルモデルファミリーで、Geminiモデルと同じ研究と技術に基づいて構築され、テキスト、オーディオ、ビジュアル入力をサポートします。

Bielik-11B-v2.6-Instructはポーランド語の大規模言語モデルで、SpeakLeashとACK Cyfronet AGHによって開発され、Bielik-11B-v2をベースに微調整され、命令追従タスクに適しています。

Phi-3.5-mini-instructは、Phi-3で使用されるデータセットに基づいて構築された、軽量で先進的なオープンソースモデルです。高品質で推論に富んだデータに焦点を当てています。128Kトークンのコンテキスト長をサポートし、強力な多言語能力と長いコンテキスト処理能力を備えています。

DeepSeek-R1-0528に基づく量子化モデルで、テキスト生成タスクに特化し、より効率的な使用方法を提供します。

マイクロソフトPhi-4-reasoning-plusの量子化バージョンで、リソースが限られたデバイスでの高効率なテキスト生成タスクに適しています。

このプロジェクトは、llava-1.5-13b-hfモデルの重み/行列量子化バージョンを提供し、さまざまな量子化タイプが選択可能で、異なるシナリオでの使用ニーズに対応します。

このプロジェクトでは、richinfoai/ritrieve_zh_v1 モデルの静的量子化バージョンを提供しています。量子化処理により、記憶領域と計算リソースの要件を削減し、一定のパフォーマンスを維持します。

Gemma 2 27B ITは、AutoAWQ量子化に基づく4ビットの大規模言語モデルで、対話と命令追従タスクに適しています。

google/gemma-2b-itをファインチューニングしたテキスト生成モデル、ツール呼び出し思考プロセスをサポート

Gemma 3 12Bは大型言語モデルで、GGUF形式の量子化バージョンを提供し、ローカルデプロイと使用に適しています。

Unslothによって最適化されたLlama 3.2 (3B)モデルで、微調整速度が2 - 5倍向上し、メモリ使用量が70%節約されます。

Llama-3.3-70B-InstructのAWQ 4ビット量子化バージョンで、Meta AIによって開発され、複数の言語をサポートし、テキスト生成タスクに適しています。

Qwen2.5-Coder-14B-Instruct-abliteratedの量子化バージョンで、複数の量子化タイプをサポートし、さまざまなハードウェア条件に適しています。

Qwen2.5-Coder-1.5Bは15億パラメータのコード生成モデルで、複数のプログラミング言語をサポートし、コード補完と生成タスクに適しています。

これはMistralアーキテクチャに基づく7Bパラメータのモデルで、量子化最適化を行い、さまざまなGGUF量子化バージョンを提供して、異なるハードウェア要件に対応します。

これはrinna社のgemma-2-baku-2b-itモデルのGGUF形式変換バージョンで、K量子化とiMatrix技術を適用しています。

NousResearch/Llama-3.2-1Bモデルをultrachat_200kデータセットで微調整したバージョンで、対話タスクの最適化に特化しています。

Llama Guard 3-1Bは、Llama-3.2-1Bの事前学習モデルを微調整したコンテンツセキュリティ分類モデルで、LLMの入力と応答のコンテンツをセキュリティ分類するために使用されます。

Meta-Llama-3-8B-InstructとHF1BitLLM/Llama3-8B-1.58-100B-tokensモデルを基に変換されたGGUF形式のモデルで、llama.cpp推論に適しています。

H2O.aiが微調整した40億パラメータのチャットモデルで、テキスト生成タスクをサポートし、携帯電話でオフラインで動作できます。

BAAI/bge-m3のONNX INT8量子化バージョンで、密集検索タスクに適しており、Vespa Embeddingとの互換性を最適化しています。

これはNTQAI/Nxcode-CQ-7B-orpoモデルのLlama.cpp imatrix量子化バージョンで、さまざまな量子化タイプのファイルを提供し、さまざまなシナリオのニーズに対応しています。

Mistral-7B-Instruct-v0.3は、Mistral-7B-v0.3をベースに命令微調整を行った大規模言語モデルで、関数呼び出しと拡張語彙表をサポートしています。

GGUF形式に基づく無審査ロールプレイングモデルで、優れた推論と文脈追跡能力を持ち、ローカルAIチャットアプリに適しています。