# 低存储需求

该模型经过自行量化处理，输出和嵌入张量量化为f16格式，其余张量量化为q5_k或q6_k格式，体积更小且性能与纯f16相当。

ZeroWw是一个经过量化的文本生成模型，输出和嵌入张量使用f16格式，其余张量使用q5_k或q6_k格式，体积更小且性能与纯f16相当。

一个经过量化的文本生成模型，输出和嵌入张量采用f16格式，其余张量采用q5_k或q6_k量化，体积更小且性能与纯f16版本持平。

一种创新的量化方案，通过混合精度量化实现更小的模型体积和保持高性能。