Liberalmind V1.5 I1 GGUF

🚀 LiberalMind_v1.5量化模型项目

本项目提供了LiberalMind_v1.5模型的量化版本，可帮助用户在不同资源条件下更高效地使用该模型。通过提供多种量化类型和大小的文件，满足不同场景的需求。

🚀 快速开始

如果你不确定如何使用GGUF文件，请参考 TheBloke的README 以获取更多详细信息，包括如何拼接多部分文件。

✨ 主要特性

• 多语言支持：支持英文文本处理。
• 多种量化类型：提供了丰富的量化类型，可根据需求选择不同大小和质量的量化文件。
• 多场景适用：适用于文本生成、指令调优等多种场景。

📚 详细文档

关于模型

基础模型为liberalusa/LiberalMind_v1.5，本项目提供了其加权/矩阵量化版本。静态量化文件可在 这里 获取。

提供的量化文件

以下是提供的量化文件列表（按大小排序，不一定按质量排序。通常，IQ量化文件比类似大小的非IQ量化文件更优）：

以下是由ikawrakow提供的比较一些低质量量化类型的便捷图表（数值越低越好）：

另外，Artefact2 对此也有一些看法，可查看 这里。

常见问题与模型请求

如果你有任何问题或希望对其他模型进行量化，请查看 这里。

📄 许可证

本项目使用apache-2.0许可证。

🙏 致谢

感谢我的公司 nethype GmbH 允许我使用其服务器，并对我的工作站进行升级，使我能够在业余时间完成这项工作。此外，感谢 @nicoboss 让我使用他的私人超级计算机，使我能够提供更多、质量更高的矩阵量化文件。