Marianmt Th Zh Cn

🚀 marianmt-th-zh_cn

marianmt-th-zh_cn 是一个翻译模型，支持从泰语（th）到中文（zh_cn）的翻译，具备特定的预处理和训练流程。

✨ 主要特性

• 源语言：泰语（th）
• 目标语言：中文（zh_cn）
• 模型类型：transformer-align
• 预处理：归一化 + SentencePiece
• 测试集得分：15.53

📦 安装指南

transformers==4.6.0
torch==1.8.0

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
 
tokenizer = AutoTokenizer.from_pretrained("Lalita/marianmt-zh_cn-th")
model = AutoModelForSeq2SeqLM.from_pretrained("Lalita/marianmt-zh_cn-th").cpu()

src_text = [
    'ฉันรักคุณ',
    'ฉันอยากกินข้าว',
]
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
print([tokenizer.decode(t, skip_special_tokens=True) for t in translated])

> ['我爱你', '我想吃饭。']

🔧 技术细节

训练

训练脚本来自 LalitaDeelert/NLP-ZH_TH-Project。实验跟踪地址为 cstorm125/marianmt-th-zh_cn。

export WANDB_PROJECT=marianmt-th-zh_cn
python train_model.py --input_fname ../data/v1/Train.csv \
    --output_dir ../models/marianmt-th-zh_cn \
    --source_lang th --target_lang zh \
    --metric_tokenize zh --fp16