Allura Org Gemma 3 Glitter 4B GGUF

🚀 ArtusDev/allura-org_Gemma-3-Glitter-4B-GGUF

このリポジトリは、allura-org/Gemma-3-Glitter-4B から変換されたGGUF形式のモデルファイルを含んでいます。変換により、潜在的なパフォーマンスの向上が期待できます。

🚀 クイックスタート

このリポジトリには、allura-org/Gemma-3-Glitter-4B から変換されたGGUF形式のモデルファイルが含まれています。変換は ArtusDev によって llama.cpp を使用して行われ、特に imatrix 量子化オプションが潜在的なパフォーマンス向上のために利用されました。

✨ 主な機能

• モデルファイルがGGUF形式に変換されています。
• imatrix 量子化オプションを使用しており、パフォーマンス向上が期待できます。

📚 ドキュメント

🔍 概要

このリポジトリには、allura-org/Gemma-3-Glitter-4B から変換されたGGUF形式のモデルファイルが含まれています。

📄 元のモデルの詳細

モデルに関する詳細情報については、元のモデルカード を参照してください。

💬 インストラクション形式

このモデルは、カスタムの Gemma 2/3 インストラクション形式 を使用しています。オプションの system ロールを認識するようにトレーニングされています。

<span class="token-tag">&lt;start_of_turn&gt;</span><span class="token-role">system</span>
<span class="token-comment">{ここにオプションのシステムプロンプトを入力}</span><span class="token-tag">&lt;end_of_turn&gt;</span>
<span class="token-tag">&lt;start_of_turn&gt;</span><span class="token-role">user</span>
<span class="token-comment">{ユーザーメッセージ。システムプロンプトをここに配置することもできます。}</span><span class="token-tag">&lt;end_of_turn&gt;</span>
<span class="token-tag">&lt;start_of_turn&gt;</span><span class="token-role">model</span>
<span class="token-comment">{モデルの応答}</span><span class="token-tag">&lt;end_of_turn&gt;</span>

⚠️ 重要提示

モデルの最適なパフォーマンスを得るためには、常に形式が必要なトークンと構造に厳密に従っていることを確認してください。

📄 ライセンス

このモデルは gemma ライセンスの下で提供されています。