G

Google Gemma 3 12b It Qat GGUF

bartowskiによって開発
Google QAT(量子化対応トレーニング)による重み量子化を施したGemma-3-12bモデルで、様々なハードウェアニーズに対応する複数量子化バージョンを提供します。
ダウンロード数 10.78k
リリース時間 : 4/18/2025

モデル概要

このモデルはGoogle Gemma-3-12bの量子化バージョンで、量子化対応トレーニング技術を用いて生成され、複数の量子化フォーマットをサポートし、異なる計算リソース環境に適しています。

モデル特徴

量子化対応トレーニング
QAT技術に基づいて生成され、量子化後も高い性能を維持することが期待されます。
マルチ量子化バージョン
Q2からQ8までの複数量子化バージョンを提供し、様々なハードウェアと性能ニーズに対応します。
ARMとAVXサポート
一部の量子化バージョンは特にARMとAVX CPUアーキテクチャをサポートするように最適化されています。
imatrix量子化
imatrixオプションを使用して量子化を行い、データセットは公開リソースから取得されています。

モデル能力

テキスト生成
対話システム
指示追従

使用事例

対話システム
インテリジェントアシスタント
自然な応答をする対話アシスタントを構築
量子化バージョンによって異なる品質の応答を得ることができます
コンテンツ生成
クリエイティブライティング
ストーリーや詩などのクリエイティブなコンテンツを生成
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase