# 低リソース推論最適化

Kodify-Nano-GGUFはKodify-NanoモデルのGGUFバージョンで、CPU/GPU推論に最適化された軽量な大規模言語モデルで、コード開発タスクに適しています。

Qwen2.5-14B大規模言語モデルを基にしたGPTQ量子化バージョンで、英語とスペイン語のテキスト生成タスクをサポート

Qwen3-30B-A3Bエキスパート混合モデルの最適化バージョンで、活性化エキスパート数を減らすことで速度を向上させ、64kのコンテキスト長をサポートし、様々なテキスト生成タスクに適しています。

Qwen3-30B-A3B混合専門家モデルのGGUF量子化バージョンで、コンテキストを128kに拡張し、NEO Imatrix量子化技術を採用して最適化され、多言語および多タスク処理をサポートします。

これはオリジナルモデル meta-llama/Llama-4-Scout-17B-16E-Instruct の量子化バージョンで、int4量子化技術を採用し、多言語タスクに適しています。

Dogeは動的マスクアテンションメカニズムを採用したシーケンス変換モデルで、多層パーセプトロンまたはクロスドメインエキスパート混合を使用して状態変換を行います。

Llama-3.2-11B-Vision-Instructは多言語対応の視覚 - 言語モデルで、画像テキストからテキストへの変換タスクに使用できます。

これはNVIDIAがMeta Llama-3.1-70B-Instructを基にカスタマイズしたLlama-3.1-Nemotron-70B-InstructモデルのAWQ 4ビット量子化バージョンで、生成応答の有用性向上に焦点を当てています。

Jamba-Herculesはai21labs/Jamba-v0.1をファインチューニングした大規模言語モデルで、Locutusque/hercules-v4.0データセットを使用して訓練され、テキスト生成タスクに特化しています。

Mistralアーキテクチャに基づく7Bパラメータの大規模言語モデルで、DPO(直接選好最適化)でトレーニングされ、多くのベンチマークテストで優れたパフォーマンスを発揮

speechless-coder-ds-6.7bは、deepseek-ai/deepseek-coder-6.7bをベースに微調整された大規模言語モデルで、コード生成とプログラミング支援能力の向上に特化しています。

Maralはペルシャ語に特化した大規模言語モデルで、Mistralアーキテクチャを基にペルシャ語Alpacaデータセットで訓練され、英語生成もサポートしています。

GenZはMetaがオープンソース化したLlama V2 700億パラメータモデルをファインチューニングした先進的な大規模言語モデルで、オープンソースコミュニティに高性能なテキスト生成能力を提供することを目的としています。