Bigtranslate

🚀 BigTranslate：為大語言模型賦予超 100 種語言的多語言翻譯能力

大語言模型（LLMs）在各種自然語言之間展現出了可觀的翻譯性能。然而，許多大語言模型，尤其是開源模型，如 BLOOM 和 LLaMA，以英語為主導，僅支持幾十種自然語言，這使得大語言模型在語言翻譯方面的潛力尚未得到充分挖掘。在本研究中，我們推出了 BigTranslate，它基於僅覆蓋 20 種語言的 LLaMA 進行改進，使其具備了超 100 種語言的多語言翻譯能力。BigTranslate 基於 LLaMA - 13B 構建，並通過三個步驟進行優化。首先，我們使用大量的中文單語數據對 LLaMA 進行持續訓練。其次，我們使用涵蓋 102 種自然語言的大規模平行數據集對模型進行持續訓練。最後，我們使用多語言翻譯指令對基礎模型進行指令微調，從而得到了 BigTranslate 模型。多語言翻譯的初步實驗表明，BigTranslate 在許多語言上的表現與 ChatGPT 和谷歌翻譯相當，甚至在 8 種語言對上超越了 ChatGPT。我們發佈了 BigTranslate 模型，希望能推動相關研究的進展。

🚀 快速開始

更多詳細信息請訪問：GitHub 倉庫 和 論文預印本。

📄 許可證

本項目採用 LGPL - 3.0 許可證。