Smoothie-Qwen3-4B开源轻量级调整工具 - 平滑词元概率提升多语言生成能力

Smoothie Qwen3 4B

由 dnotitia 开发

顺滑Qwen是一款轻量级的调整工具，能够平滑Qwen及类似模型中的词元概率，增强多语言的平衡生成能力。

下载量 2,189

发布时间 : 4/30/2025

模型简介

顺滑Qwen通过调整词元概率分布，优化Qwen系列模型在多语言环境下的生成效果，特别针对中文等特定Unicode字符范围进行了优化。

词元概率平滑

通过最小缩放因子和平滑度参数调整词元概率分布，改善生成质量

多语言优化

特别针对11个中文相关Unicode范围进行优化，增强中文生成能力

轻量级调整

作为附加工具层实现，不改变基础模型结构，保持高效运行

N-gram权重控制

支持配置不同N-gram的权重比例（默认[0.5, 0.3, 0.2]），精细控制生成效果

文本生成优化

多语言平衡生成

中文文本增强

概率分布调整

内容生成

多语言内容创作

生成平衡的多语言文本内容，避免特定语言主导

改善非英语语言的生成质量

中文文本优化

生成更符合中文表达习惯的文本内容

覆盖26,153个目标中文词元

模型调优

Qwen系列模型增强

作为Qwen系列模型的附加优化层使用

修改27,564个词元概率