Gemma 3n E2B GGUF

🚀 Google Gemma-3n-E2B量化模型

本項目提供了Google Gemma-3n-E2B模型的靜態量化版本，方便用戶在Hugging Face平臺上使用。用戶可以根據自身需求選擇不同的量化類型，以平衡模型大小和性能。

🚀 快速開始

要在Hugging Face上使用Gemma模型，你需要查看並同意Google的使用許可。請確保你已登錄Hugging Face賬號，然後點擊下方按鈕，請求將立即處理。

✨ 主要特性

• 多領域應用：支持自動語音識別、自動語音翻譯、音頻文本轉換和視頻文本轉換等多種任務。
• 多種量化類型：提供了多種不同大小和質量的量化版本，滿足不同場景的需求。
• 快速使用：可參考TheBloke的README瞭解GGUF文件的使用方法。

📦 安裝指南

暫未提供具體安裝命令，可參考相關文檔進行安裝。

💻 使用示例

如果你不確定如何使用GGUF文件，請參考TheBloke的README獲取更多詳細信息，包括如何合併多部分文件。

📚 詳細文檔

模型信息

量化版本信息

靜態量化版本可參考：https://huggingface.co/google/gemma-3n-E2B 加權/矩陣量化版本可在以下鏈接獲取：https://huggingface.co/mradermacher/gemma-3n-E2B-i1-GGUF

提供的量化版本

（按大小排序，不一定代表質量。IQ量化通常優於類似大小的非IQ量化）

以下是ikawrakow提供的比較一些低質量量化類型的圖表（值越低越好）：

此外，你還可以參考Artefact2的相關觀點：https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

📄 許可證

本項目使用Gemma許可證，具體請查看相關許可文件。

🔗 常見問題與模型請求

如果你有任何問題或希望對其他模型進行量化，請參考常見問題與模型請求。

🙏 致謝

感謝我的公司nethype GmbH，允許我使用其服務器並升級我的工作站，使我能夠在業餘時間完成這項工作。