Huihui Gemma 3n E4B It Abliterated GGUF

🚀 Huihui-gemma-3n-E4B-it-abliterated模型

本项目提供了Huihui-gemma-3n-E4B-it-abliterated模型的静态量化版本，适用于自动语音识别、自动语音翻译等多种任务。用户可根据需求选择合适的量化文件进行使用。

📚 详细文档

模型信息

• 基础模型：huihui-ai/Huihui-gemma-3n-E4B-it-abliterated
• 语言：英语
• 库名称：transformers
• 许可证：gemma
• 量化者：mradermacher
• 标签：自动语音识别、自动语音翻译、音频文本转换、视频文本转换等

关于模型

本项目提供了 https://huggingface.co/huihui-ai/Huihui-gemma-3n-E4B-it-abliterated 的静态量化版本。

如需便捷的概述和下载列表，请访问我们的 该模型页面。

目前，加权/矩阵量化版本（weighted/imatrix quants）似乎不可用。如果在静态量化版本发布约一周后仍未出现，可能是我未进行相关计划。您可以通过开启社区讨论来请求这些量化版本。

访问权限

要在Hugging Face上访问Gemma，您需要查看并同意Google的使用许可。为此，请确保您已登录Hugging Face并点击下方按钮。请求将立即处理。

使用说明

如果您不确定如何使用GGUF文件，请参考 TheBloke的README 以获取更多详细信息，包括如何拼接多部分文件。

提供的量化版本

（按大小排序，不一定按质量排序。IQ量化通常比类似大小的非IQ量化更可取）

以下是ikawrakow提供的一个方便的图表，比较了一些低质量量化类型（数值越低越好）：

此外，这里是Artefact2对此事的看法：https://gist.github.com/Artefact2/b5f810600771265fc1e39442288e8ec9

常见问题解答/模型请求

有关您可能遇到的问题的答案，以及如果您希望对其他模型进行量化，请查看 https://huggingface.co/mradermacher/model_requests。

致谢

感谢我的公司 nethype GmbH 让我使用其服务器，并对我的工作站进行升级，使我能够在业余时间完成这项工作。