Gemma 3 4b Persian V0 GGUF

🚀 gemma-3-4b-persian-v0 量化模型

本项目提供了 mshojaei77/gemma-3-4b-persian-v0 模型的静态量化版本，支持波斯语的文本生成任务。

📚 关于模型

本项目提供的是 mshojaei77/gemma-3-4b-persian-v0 的静态量化版本。

加权/矩阵量化文件可在 这里 获取。

💻 使用示例

如果您不确定如何使用 GGUF 文件，请参考 TheBloke 的 README 以获取更多详细信息，包括如何合并多部分文件。

📦 提供的量化版本

（按大小排序，不一定按质量排序。IQ 量化通常优于类似大小的非 IQ 量化）

以下是 ikawrakow 提供的一张比较低质量量化类型的实用图表（值越低越好）：

此外，Artefact2 对此事的看法可参考：链接

❓ 常见问题 / 模型请求

如果您有任何问题或希望对其他模型进行量化，请参考 这里。

🙏 致谢

感谢我的公司 nethype GmbH 允许我使用其服务器，并对我的工作站进行升级，使我能够在业余时间完成这项工作。此外，感谢 @nicoboss 让我使用他的私人超级计算机，使我能够提供更多、更高质量的矩阵量化版本。