# 高精度量子化

Gama-12Bは多言語対応の大規模言語モデルで、さまざまな量子化バージョンを提供して、異なる性能と精度の要件に対応します。

NVIDIAが開発した高性能の7Bパラメータ言語モデルで、数学とコードの推論タスクに特化し、128kのコンテキスト長をサポートします。

Delta-VectorのAustral-24B-Wintonモデルの量子化バージョンで、llama.cppツールを使用して量子化処理を行い、さまざまなハードウェア構成での効率的な実行に適しています。

cognitivecomputations/Qwen3-72B-Embiggenedモデルに基づく量子化バージョンで、llama.cppを使用して量子化処理を行い、様々な環境で効率的に動作します。

これはOpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QATの量子化バージョンで、量子化技術を利用して、さまざまなハードウェア条件下でより効率的にモデルを実行できます。

infly/inf-o1-pi0モデルを基にした量子化バージョンで、多言語テキスト生成タスクをサポートし、llama.cppツールを使用したimatrix量子化最適化を採用しています。

allura-org/Q3-30B-A3B-Designantを基にしたLlamacpp imatrix量子化バージョンで、様々な量子化ニーズに対応し、ロールプレイや対話型タスクをサポートします。

llama.cppで量子化された12Bパラメータの多言語大規模言語モデルで、ロールプレイ、ストーリー作成、および複数分野の専門タスクをサポート

多言語・多目的の大規模言語モデルで、様々な専門分野や汎用タスクをサポートし、ロールプレイ、ストーリー創作、プログラミングなど多様なシナリオに適しています。

Q3-30b-A3b-Pentiment はLLaMAアーキテクチャに基づく大規模言語モデルで、量子化処理されており、様々なテキスト生成タスクに適しています。

Qwen3は通義千問シリーズの最新世代大規模言語モデルで、密モデルと混合エキスパート（MoE）モデルの完全なスイートを提供します。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、一連の高密度型および混合エキスパート（MoE）モデルを提供しています。大規模なトレーニングに基づき、Qwen3は推論、指示追従、エージェント能力、多言語サポートにおいて画期的な進歩を実現しました。

INTELLECT-2の量子化バージョンで、llama.cppを使用して最適化され、さまざまなハードウェア要件に対応するために複数の量子化タイプをサポートしています。

これはGryphe/Pantheon-Proto-RP-1.8-30B-A3Bモデルを基にした量子化バージョンで、llama.cppを使用して量子化されており、ロールプレイングやテキスト生成タスクに適しています。

Dolphin-Mistral-24B-Venice-EditionのLlamacpp imatrix量子化バージョンで、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

Qwen2.5-VL-72B-Instructのマルチモーダル大規模言語モデル量子化バージョン、画像テキストからテキストタスクをサポート、高精度から低メモリ要求までの多様な量子化レベルに対応。

Qwen2.5-VL-7B-Instructの量子化バージョンで、llama.cppを使用して量子化されており、マルチモーダルタスクをサポートし、画像からテキストへの変換などのアプリケーションシーンに適しています。

これはNVIDIA OpenCodeReasoning-Nemotron-32B-IOIモデルの量子化バージョンで、llama.cppを使用して量子化処理されており、コード推論タスクに適しています。

これはnomic-ai/nomic-embed-codeモデルの量子化バージョンで、llama.cppを使用してimatrix量子化を行い、コード埋め込みや特徴抽出タスクに適しています。

Qwen3-14B-abliteratedはQwen3-14Bモデルに基づく量子化バージョンで、llama.cppを使用して最適化され、さまざまな性能要件に対応するための複数の量子化オプションを提供します。

これはQwen3-8Bモデルの量子化バージョンで、llama.cppを使用してimatrix量子化を行い、チャットシーンに適しています。

Remnant-GLM4-32BはGLM4アーキテクチャに基づく32Bパラメータの大規模言語モデルで、ロールプレイングや対話型インタラクションをサポートし、特にイモリ関連のアプリケーションシナリオに適しています。

Nomicコード埋め込みモデルは、多様なプログラミング言語をサポートするトップクラスのコード検索ツールで、コード検索タスクに優れています。

これはQwen3-14B-abliteratedモデルの量子化バージョンで、llama.cppのimatrixオプションを使用して量子化されており、テキスト生成タスクに適しています。

Qwen/Qwen3-32Bを基にした量子化バージョンで、llama.cppを使用して量子化されており、様々な量子化タイプをサポートし、異なるハードウェア要件に対応します。

Qwen/Qwen3-30B-A3Bを基にした量子化バージョンで、llama.cppを使用して複数の精度で量子化されており、テキスト生成タスクに適しています。

Mistral-Small-24B-Instruct-2501は24Bパラメータ規模の命令ファインチューニング大規模言語モデルで、多言語テキスト生成タスクをサポートします。

PocketDoc/Dans-SakuraKaze-V1.0.0-12bを基にしたLlamacpp imatrix量子化バージョンで、複数の量子化タイプをサポートし、テキスト生成タスクに適しています。

Llama 3.3アーキテクチャに基づく70Bパラメータの大規模言語モデルで、多言語テキスト生成タスクをサポートし、量子化最適化により様々なハードウェア環境に適応

GLM-4アーキテクチャに基づく9Bパラメータのチャットモデルで、中国語と英語の対話をサポートし、量子化処理によりさまざまなハードウェア環境に対応

Zero-Mistral-24B は Mistral アーキテクチャに基づく大規模言語モデルで、ロシア語と英語をサポートし、対話やテキスト生成タスクに適しています。

Google Gemma 3 270億パラメータ命令調整モデルの量子化バージョンで、量子化対応トレーニング(QAT)重み生成を採用し、さまざまなハードウェア要件に対応する複数の量子化レベルをサポートします。

これはNVIDIA Llama-3_1-Nemotron-Ultra-253B-v1モデルの量子化バージョンで、llama.cppを使用して量子化されており、複数の量子化タイプをサポートし、さまざまなハードウェア環境に適しています。

このモデルはGemma-3-27b-toolsを変換したGGUF形式バージョンで、ローカル推論タスクに適しています。

Qwen2.5-VL-32B-Instructは32Bパラメータ規模のマルチモーダル視覚言語モデルで、画像理解とテキスト生成タスクをサポートします。

VIDraft/Gemma-3-R1984-27Bから変換されたGGUF形式モデルで、多言語テキスト生成をサポート

これはmlabonne/gemma-3-4b-it-abliteratedモデルを基にした量子化バージョンで、llama.cppを使用してimatrix量子化を行い、画像テキストからテキストへのタスクに適しています。

mlabonne/gemma-3-12b-it-abliteratedモデルを基にした量子化バージョンで、llama.cppを使用してimatrix量子化を行い、テキスト生成タスクに適しています。

Google Gemma 3Bモデルを基にした量子化バージョンで、llama.cppを使用して最適化され、様々な量子化レベルをサポートし、テキスト生成タスクに適しています。

12Bパラメータの大規模言語モデルで、テキスト生成タスクをサポートし、Apache-2.0ライセンスで公開されています。