Allura Org Gemma 3 Glitter 4B GGUF

🚀 ArtusDev/allura-org_Gemma-3-Glitter-4B-GGUF

本項目包含從 allura-org/Gemma-3-Glitter-4B 轉換而來的 GGUF 格式模型文件，通過特定量化方式提升性能，同時介紹了模型的指令格式。

🚀 快速開始

本倉庫包含從 allura-org/Gemma-3-Glitter-4B 轉換而來的 GGUF 格式模型文件。轉換工作由 ArtusDev 使用 llama.cpp 完成，特別採用了 imatrix 量化選項以提升性能。

✨ 主要特性

• 格式轉換：將原模型轉換為 GGUF 格式。
• 量化優化：使用 imatrix 量化選項，可能帶來性能提升。

📚 詳細文檔

🔍 原始模型詳情

如需瞭解更多關於該模型的信息，請參考 原始模型卡片。

💬 指令格式

該模型使用自定義的 Gemma 2/3 指令格式，並且經過訓練以識別可選的 system 角色。

<start_of_turn>system
{optional system prompt here}<end_of_turn>
<start_of_turn>user
{User messages. You can also place the system prompt here.}<end_of_turn>
<start_of_turn>model
{Model's response}<end_of_turn>

⚠️ 重要提示

為確保模型性能最佳，請始終嚴格遵循所需的標記和結構格式，切勿出錯。

📄 許可證

本模型使用 gemma 許可證。

📦 模型信息