Llama 2 7b Ukrainian

🚀 Llama-2-7b-Ukrainian

Llama-2-7b-Ukrainian是一個支持烏克蘭語和英語的雙語預訓練模型。它基於特定數據集繼續預訓練，在多語言文本生成方面具有一定優勢，為相關領域的應用提供了有力支持。

📚 詳細文檔

🔍 模型描述

Llama-2-7b-Ukrainian是一個支持烏克蘭語和英語的雙語預訓練模型。它在50億個token上從 Llama-2-7b 繼續預訓練，這些token由來自 CulturaX 的75%的烏克蘭語文檔和25%的英語文檔組成。

論文: To Err Is Human, but Llamas Can Learn It Too

📈 訓練超參數

📄 許可證

該項目使用llama2許可證。

📖 引用

BibTeX:

@article{luhtaru2024err,
  title={To Err Is Human, but Llamas Can Learn It Too},
  author={Luhtaru, Agnes and Purason, Taido and Vainikko, Martin and Del, Maksym and Fishel, Mark},
  journal={arXiv preprint arXiv:2403.05493},
  year={2024}
}