ALMA 7B Ja V2

🚀 全新翻译模型发布

C3TR-Adapter 是基于 google/gemma-7b 的 QLoRA 适配器。尽管采用了 4 位量化，但 GPU 内存需求仍增加到了 8.1GB。不过，它可以在 Colab 的免费版本上运行，并且性能有了显著提升！

🚀 快速开始

webbigdata/ALMA-7B-Ja-V2

ALMA-7B-Ja-V2 是一款能够实现日语到英语、英语到日语翻译的机器翻译模型。它在之前的模型（ALMA-7B-Ja）基础上进一步学习，性能得到了提升。

除了日语和英语之间的翻译，该模型还具备以下语言之间的翻译能力，不过主要还是以日英、英日翻译为目标：

• 德语（German，de）和英语（English，en）
• 中文（Chinese，zh）和英语（English，en）
• 冰岛语（Icelandic，is）和英语（English，en）
• 捷克语（Czech，cs）和英语（English，en）

✨ 主要特性

翻译性能评估指标

使用了以下三种指标来评估翻译性能，数值越大表示性能越好：

• BLEU：用于评估翻译文本与原文的相似度。但由于它主要关注单词的出现频率，因此在评估单词顺序的准确性和句子流畅性方面存在不足。
• chrF++：基于字符组合的匹配度和单词顺序来评估翻译的准确性。缺点是可能不太适合评估较长的句子。
• comet：这是一个使用机器学习模型自动评估翻译质量的工具，据说与人类的主观评估相近。但由于它基于机器学习，原始模型在很大程度上依赖于训练数据。

与其他模型的对比

与 Meta 公司的 NLLB - 200 系列对比

与之前的模型（ALMA - 7B - Ja）对比

ALMA - 7B - Ja - V2 不同版本对比

不同类型文本翻译对比

政府官方文章

古典文学

二次创作

💻 使用示例

基础用法

使用 Google 的免费 Web 工具 Colab 可以轻松验证 ALMA_7B_Ja_V2 的性能。 免费 Colab 示例代码

📚 详细文档

其他版本

llama.cpp

llama.cpp 的主要目的是在 MacBook 上使用 4 位整数量子化运行 LLaMA 模型。虽然 4 位量化会使性能略有下降，但使用 mmnga 制作的 webbigdata-ALMA-7B-Ja-V2-gguf，可以在 Mac 以及未搭载 GPU 的 Windows、Linux 上运行该模型。 无 GPU 版 Colab 运行示例

GPTQ

GPTQ 是一种减小模型大小的技术（称为量化）。ALMA-7B-Ja-V2-GPTQ-Ja-En 是 GPTQ 量化版本，它减小了模型大小（3.9GB）和内存使用量，并提高了速度。不过，性能会稍有下降，并且对日语和英语以外语言的翻译能力可能会显著降低。 免费 Colab 示例代码 webbigdata/ALMA-7B-Ja-V2-GPTQ-Ja-En

如果你想一次性翻译整个文本文件，可以尝试以下 Colab： ALMA_7B_Ja_GPTQ_Ja_En 批量翻译示例

ALMA 模型相关信息

ALMA（Advanced Language Model - based trAnslator）是一个基于大语言模型的翻译模型，采用了一种新的翻译模型范式：先在单语数据上进行微调，然后使用高质量的平行数据进一步优化。这种两步微调过程确保了强大的翻译性能。更多详细信息请参考他们的 论文。

@misc{xu2023paradigm,
      title={A Paradigm Shift in Machine Translation: Boosting Translation Performance of Large Language Models}, 
      author={Haoran Xu and Young Jin Kim and Amr Sharaf and Hany Hassan Awadalla},
      year={2023},
      eprint={2309.11674},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

原始模型 ALMA-7B （26.95GB） 上一版本模型 ALMA-7B-Ja （13.3GB）

关于本项目

• 本项目由：webbigdata 完成。

📄 许可证

本项目采用 llama2 许可证。