# 文化語料訓練

Llama-2-7b-烏克蘭語版是一個支持烏克蘭語和英語的雙語預訓練模型，基於Llama-2-7b繼續預訓練，使用了來自CulturaX的50億token數據。

SambaLingo-土耳其語-基礎版是一個基於Llama-2-7b預訓練的雙語（土耳其語和英語）模型，通過在Cultura-X數據集的土耳其語部分上訓練420億個令牌而適配土耳其語。