M

Mlabonne Gemma 3 12b It Abliterated GGUF

bartowskiによって開発
mlabonne/gemma-3-12b-it-abliteratedモデルを基にした量子化バージョンで、llama.cppを使用してimatrix量子化を行い、テキスト生成タスクに適しています。
ダウンロード数 7,951
リリース時間 : 3/18/2025

モデル概要

これは12Bパラメータ規模のGemmaモデルの量子化バージョンで、テキスト生成タスクをサポートし、ローカル推論環境に適しています。

モデル特徴

効率的な量子化
llama.cppのimatrix量子化技術を使用し、複数の量子化オプションを提供し、モデルサイズと性能のバランスを取ります。
ローカル推論サポート
LM Studioやllama.cppなどのローカル環境で実行可能で、オフライン使用に適しています。
複数量子化オプション
BF16からQ2_Kまでの複数の量子化レベルを提供し、さまざまなハードウェアと性能ニーズに対応します。

モデル能力

テキスト生成
対話システム
命令追従

使用事例

対話システム
インテリジェントアシスタント
ローカルで動作するインテリジェントな対話アシスタントを構築
コンテンツ生成
テキスト創作
記事やストーリーなどのクリエイティブなコンテンツを生成するために使用
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase