Translate Nllb 1.3b Salt

🚀 机器翻译模型 - translate-nllb-1.3b-salt

本机器翻译模型可实现以下语言之间单句的任意组合互译，为多语言交流提供了强大的支持。

🚀 快速开始

本机器翻译模型能够在以下语言的单句之间进行任意组合的翻译：

该模型基于 SALT 数据集以及多种额外的外部数据资源进行训练，这些外部资源包括回译新闻文章、FLORES - 200、MT560 和 LAFAND - MT。基础模型采用 facebok/nllb-200-1.3B，并对其进行了调整，以支持原本未包含的语言。

💻 使用示例

基础用法

tokenizer = transformers.NllbTokenizer.from_pretrained(
    'Sunbird/translate-nllb-1.3b-salt')
model = transformers.M2M100ForConditionalGeneration.from_pretrained(
    'Sunbird/translate-nllb-1.3b-salt')

text = 'Where is the hospital?'
source_language = 'eng'
target_language = 'lug'

language_tokens = {
    'eng': 256047,
    'ach': 256111,
    'lgg': 256008,
    'lug': 256110,
    'nyn': 256002,
    'teo': 256006,
}

device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
inputs = tokenizer(text, return_tensors="pt").to(device)
inputs['input_ids'][0][0] = language_tokens[source_language]
translated_tokens = model.to(device).generate(
    **inputs,
    forced_bos_token_id=language_tokens[target_language],
    max_length=100,
    num_beams=5,
)

result = tokenizer.batch_decode(
    translated_tokens, skip_special_tokens=True)[0]
# Eddwaliro liri ludda wa?

📚 详细文档

评估指标

在 salt - dev 上的评估结果如下：

🔧 技术细节