Gemma 3n E2B GGUF

🚀 Google Gemma-3n-E2B量化模型

本项目提供了Google Gemma-3n-E2B模型的静态量化版本，方便用户在Hugging Face平台上使用。用户可以根据自身需求选择不同的量化类型，以平衡模型大小和性能。

🚀 快速开始

要在Hugging Face上使用Gemma模型，你需要查看并同意Google的使用许可。请确保你已登录Hugging Face账号，然后点击下方按钮，请求将立即处理。

✨ 主要特性

• 多领域应用：支持自动语音识别、自动语音翻译、音频文本转换和视频文本转换等多种任务。
• 多种量化类型：提供了多种不同大小和质量的量化版本，满足不同场景的需求。
• 快速使用：可参考TheBloke的README了解GGUF文件的使用方法。

📦 安装指南

暂未提供具体安装命令，可参考相关文档进行安装。

💻 使用示例

如果你不确定如何使用GGUF文件，请参考TheBloke的README获取更多详细信息，包括如何合并多部分文件。

📚 详细文档

模型信息

量化版本信息

静态量化版本可参考：https://huggingface.co/google/gemma-3n-E2B 加权/矩阵量化版本可在以下链接获取：https://huggingface.co/mradermacher/gemma-3n-E2B-i1-GGUF

提供的量化版本

（按大小排序，不一定代表质量。IQ量化通常优于类似大小的非IQ量化）

以下是ikawrakow提供的比较一些低质量量化类型的图表（值越低越好）：

此外，你还可以参考Artefact2的相关观点：https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

📄 许可证

本项目使用Gemma许可证，具体请查看相关许可文件。

🔗 常见问题与模型请求

如果你有任何问题或希望对其他模型进行量化，请参考常见问题与模型请求。

🙏 致谢

感谢我的公司nethype GmbH，允许我使用其服务器并升级我的工作站，使我能够在业余时间完成这项工作。