ALMA 7B Ja V2

🚀 全新翻譯模型發佈

C3TR-Adapter 是基於 google/gemma-7b 的 QLoRA 適配器。儘管採用了 4 位量化，但 GPU 內存需求仍增加到了 8.1GB。不過，它可以在 Colab 的免費版本上運行，並且性能有了顯著提升！

🚀 快速開始

webbigdata/ALMA-7B-Ja-V2

ALMA-7B-Ja-V2 是一款能夠實現日語到英語、英語到日語翻譯的機器翻譯模型。它在之前的模型（ALMA-7B-Ja）基礎上進一步學習，性能得到了提升。

除了日語和英語之間的翻譯，該模型還具備以下語言之間的翻譯能力，不過主要還是以日英、英日翻譯為目標：

• 德語（German，de）和英語（English，en）
• 中文（Chinese，zh）和英語（English，en）
• 冰島語（Icelandic，is）和英語（English，en）
• 捷克語（Czech，cs）和英語（English，en）

✨ 主要特性

翻譯性能評估指標

使用了以下三種指標來評估翻譯性能，數值越大表示性能越好：

• BLEU：用於評估翻譯文本與原文的相似度。但由於它主要關注單詞的出現頻率，因此在評估單詞順序的準確性和句子流暢性方面存在不足。
• chrF++：基於字符組合的匹配度和單詞順序來評估翻譯的準確性。缺點是可能不太適合評估較長的句子。
• comet：這是一個使用機器學習模型自動評估翻譯質量的工具，據說與人類的主觀評估相近。但由於它基於機器學習，原始模型在很大程度上依賴於訓練數據。

與其他模型的對比

與 Meta 公司的 NLLB - 200 系列對比

與之前的模型（ALMA - 7B - Ja）對比

ALMA - 7B - Ja - V2 不同版本對比

不同類型文本翻譯對比

政府官方文章

古典文學

二次創作

💻 使用示例

基礎用法

使用 Google 的免費 Web 工具 Colab 可以輕鬆驗證 ALMA_7B_Ja_V2 的性能。 免費 Colab 示例代碼

📚 詳細文檔

其他版本

llama.cpp

llama.cpp 的主要目的是在 MacBook 上使用 4 位整數量子化運行 LLaMA 模型。雖然 4 位量化會使性能略有下降，但使用 mmnga 製作的 webbigdata-ALMA-7B-Ja-V2-gguf，可以在 Mac 以及未搭載 GPU 的 Windows、Linux 上運行該模型。 無 GPU 版 Colab 運行示例

GPTQ

GPTQ 是一種減小模型大小的技術（稱為量化）。ALMA-7B-Ja-V2-GPTQ-Ja-En 是 GPTQ 量化版本，它減小了模型大小（3.9GB）和內存使用量，並提高了速度。不過，性能會稍有下降，並且對日語和英語以外語言的翻譯能力可能會顯著降低。 免費 Colab 示例代碼 webbigdata/ALMA-7B-Ja-V2-GPTQ-Ja-En

如果你想一次性翻譯整個文本文件，可以嘗試以下 Colab： ALMA_7B_Ja_GPTQ_Ja_En 批量翻譯示例

ALMA 模型相關信息

ALMA（Advanced Language Model - based trAnslator）是一個基於大語言模型的翻譯模型，採用了一種新的翻譯模型範式：先在單語數據上進行微調，然後使用高質量的平行數據進一步優化。這種兩步微調過程確保了強大的翻譯性能。更多詳細信息請參考他們的 論文。

@misc{xu2023paradigm,
      title={A Paradigm Shift in Machine Translation: Boosting Translation Performance of Large Language Models}, 
      author={Haoran Xu and Young Jin Kim and Amr Sharaf and Hany Hassan Awadalla},
      year={2023},
      eprint={2309.11674},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

原始模型 ALMA-7B （26.95GB） 上一版本模型 ALMA-7B-Ja （13.3GB）

關於本項目

• 本項目由：webbigdata 完成。

📄 許可證

本項目採用 llama2 許可證。