Gemma 3 4b Persian V0 GGUF

🚀 gemma-3-4b-persian-v0 量子化モデル

このプロジェクトは、mshojaei77/gemma-3-4b-persian-v0 モデルの静的量子化バージョンを提供し、ペルシャ語のテキスト生成タスクをサポートしています。

📚 モデルについて

このプロジェクトで提供されるのは、mshojaei77/gemma-3-4b-persian-v0 の静的量子化バージョンです。

重み/行列量子化ファイルは、こちら から入手できます。

💻 使用例

GGUF ファイルの使い方がわからない場合は、TheBloke の README を参照して、複数の部分ファイルを結合する方法などの詳細情報を取得してください。

📦 提供される量子化バージョン

（サイズ順に並べられており、必ずしも品質順ではありません。IQ 量子化は、同じサイズの非 IQ 量子化よりも通常優れています）

ikawrakow 氏が提供した、低品質量子化タイプを比較する実用的なグラフがあります（値が低いほど良い）：

また、Artefact2 氏の見解については、こちら を参照してください。

❓ よくある質問 / モデルリクエスト

何か質問がある場合や、他のモデルの量子化を希望する場合は、こちら を参照してください。

🙏 謝辞

私の会社 nethype GmbH には、サーバーの使用を許可し、ワークステーションをアップグレードしてくれたことに感謝します。これにより、私は余暇時間にこの作業を完了することができました。また、@nicoboss 氏には、彼のプライベートスーパーコンピューターを使用させていただき、より多くの高品質な行列量子化バージョンを提供できるようになったことに感謝します。