Opus Mt Tc Big Zle En
用于从东斯拉夫语言(白俄罗斯语、俄语、乌克兰语)翻译到英语的神经机器翻译模型,基于OPUS-MT项目开发。
下载量 513
发布时间 : 3/21/2022
模型简介
该模型是一个基于transformer-big架构的神经机器翻译模型,专门用于将东斯拉夫语族的语言(白俄罗斯语、俄语、乌克兰语)翻译成英语。它是OPUS-MT项目的一部分,旨在提供高质量的机器翻译服务。
模型特点
多语言支持
支持从白俄罗斯语、俄语、乌克兰语到英语的翻译。
高性能
在多个测试集上表现出色,BLEU分数在35到57之间。
开源
基于开源许可证发布,可以自由使用和修改。
模型能力
白俄罗斯语到英语翻译
俄语到英语翻译
乌克兰语到英语翻译
使用案例
文本翻译
新闻翻译
将俄语新闻翻译成英语,便于国际读者阅读。
在newstest2014测试集上BLEU分数为40.5。
社交媒体内容翻译
将乌克兰语的社交媒体内容翻译成英语,扩大受众范围。
在flores101-devtest测试集上BLEU分数为39.2。
教育
学习辅助
帮助学生将白俄罗斯语的学习材料翻译成英语。
在tatoeba-test-v2021-08-07测试集上BLEU分数为48.1。
🚀 opus-mt-tc-big-zle-en
这是一个用于将东斯拉夫语系(zle)翻译成英语(en)的神经机器翻译模型。该模型是[OPUS - MT项目](https://github.com/Helsinki - NLP/Opus - MT)的一部分,此项目致力于让神经机器翻译模型在全球多种语言中广泛可用且易于获取。所有模型最初使用[Marian NMT](https://marian - nmt.github.io/)这一出色的框架进行训练,它是一个用纯C++编写的高效神经机器翻译实现。这些模型通过huggingface的transformers库转换为pyTorch格式。训练数据来自OPUS,训练流程采用[OPUS - MT - train](https://github.com/Helsinki - NLP/Opus - MT - train)的方法。
🚀 快速开始
本模型可用于将东斯拉夫语系(如白俄罗斯语、俄语、乌克兰语)翻译成英语。以下是使用示例:
基础用法
from transformers import MarianMTModel, MarianTokenizer
src_text = [
"Скільки мені слід купити пива?",
"Я клієнтка."
]
model_name = "pytorch - models/opus - mt - tc - big - zle - en"
tokenizer = MarianTokenizer.from_pretrained(model_name)
model = MarianMTModel.from_pretrained(model_name)
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
for t in translated:
print( tokenizer.decode(t, skip_special_tokens=True) )
# expected output:
# How much beer should I buy?
# I'm a client.
高级用法
from transformers import pipeline
pipe = pipeline("translation", model="Helsinki - NLP/opus - mt - tc - big - zle - en")
print(pipe("Скільки мені слід купити пива?"))
# expected output: How much beer should I buy?
✨ 主要特性
- 多语言支持:支持白俄罗斯语、俄语、乌克兰语到英语的翻译。
- 开源项目:属于OPUS - MT项目的一部分,借助Marian NMT框架训练,使用transformers库转换为pyTorch格式。
📦 安装指南
文档未提及安装步骤,暂不提供。
📚 详细文档
模型信息
属性 | 详情 |
---|---|
模型类型 | transformer - big |
训练数据 | opusTCv20210807+bt ([source](https://github.com/Helsinki - NLP/Tatoeba - Challenge)) |
分词方式 | SentencePiece (spm32k,spm32k) |
原始模型 | [opusTCv20210807+bt_transformer - big_2022 - 03 - 17.zip](https://object.pouta.csc.fi/Tatoeba - MT - models/zle - eng/opusTCv20210807+bt_transformer - big_2022 - 03 - 17.zip) |
更多信息 | [OPUS - MT zle - eng README](https://github.com/Helsinki - NLP/Tatoeba - Challenge/tree/master/models/zle - eng/README.md) |
发布时间 | 2022 - 03 - 17 |
源语言 | 白俄罗斯语、俄语、乌克兰语 |
目标语言 | 英语 |
模型转换信息
- transformers版本:4.16.2
- OPUS - MT git哈希值:1bdabf7
- 转换时间:Wed Mar 23 22:17:11 EET 2022
- 转换机器:LM0 - 400 - 22516.local
🔧 技术细节
本模型是基于Marian NMT框架进行训练的,该框架是一个用纯C++编写的高效神经机器翻译实现。训练数据来自OPUS,训练流程采用OPUS - MT - train的方法。模型经过转换后使用pyTorch框架,借助huggingface的transformers库实现。
📄 许可证
本模型使用CC - BY - 4.0许可证。
📊 基准测试
语言对 | 测试集 | chr - F | BLEU | 句子数量 | 单词数量 |
---|---|---|---|---|---|
bel - eng | tatoeba - test - v2021 - 08 - 07 | 0.65221 | 48.1 | 2500 | 18571 |
rus - eng | tatoeba - test - v2021 - 08 - 07 | 0.71452 | 57.4 | 19425 | 147872 |
ukr - eng | tatoeba - test - v2021 - 08 - 07 | 0.71162 | 56.9 | 13127 | 88607 |
bel - eng | flores101 - devtest | 0.51689 | 18.1 | 1012 | 24721 |
rus - eng | flores101 - devtest | 0.62581 | 35.2 | 1012 | 24721 |
ukr - eng | flores101 - devtest | 0.65001 | 39.2 | 1012 | 24721 |
rus - eng | newstest2012 | 0.63724 | 39.2 | 3003 | 72812 |
rus - eng | newstest2013 | 0.57641 | 31.3 | 3000 | 64505 |
rus - eng | newstest2014 | 0.65667 | 40.5 | 3003 | 69190 |
rus - eng | newstest2015 | 0.61747 | 36.1 | 2818 | 64428 |
rus - eng | newstest2016 | 0.61414 | 35.7 | 2998 | 69278 |
rus - eng | newstest2017 | 0.65365 | 40.8 | 3001 | 69025 |
rus - eng | newstest2018 | 0.61386 | 35.2 | 3000 | 71291 |
rus - eng | newstest2019 | 0.65476 | 41.6 | 2000 | 42642 |
rus - eng | newstest2020 | 0.64878 | 36.9 | 991 | 20217 |
rus - eng | newstestB2020 | 0.65685 | 39.3 | 991 | 20423 |
rus - eng | tico19 - test | 0.63280 | 33.3 | 2100 | 56323 |
🔗 测试集相关链接
- 测试集翻译:[opusTCv20210807+bt_transformer - big_2022 - 03 - 17.test.txt](https://object.pouta.csc.fi/Tatoeba - MT - models/zle - eng/opusTCv20210807+bt_transformer - big_2022 - 03 - 17.test.txt)
- 测试集分数:[opusTCv20210807+bt_transformer - big_2022 - 03 - 17.eval.txt](https://object.pouta.csc.fi/Tatoeba - MT - models/zle - eng/opusTCv20210807+bt_transformer - big_2022 - 03 - 17.eval.txt)
- 基准测试结果:benchmark_results.txt
- 基准测试输出:benchmark_translations.zip
🙏 致谢
本工作得到了以下项目的支持:
- [欧洲语言网格](https://www.european - language - grid.eu/)的[试点项目2866](https://live.european - language - grid.eu/catalogue/#/resource/projects/2866)。
- [FoTran项目](https://www.helsinki.fi/en/researchgroups/natural - language - understanding - with - cross - lingual - grounding),由欧盟“地平线2020”研究与创新计划(资助协议编号771113)下的欧洲研究理事会(ERC)资助。
- MeMAD项目,由欧盟“地平线2020”研究与创新计划资助(资助协议编号780069)。
同时,我们也感谢芬兰CSC -- IT Center for Science提供的慷慨计算资源和IT基础设施。
📚 引用信息
如果您使用此模型,请引用以下出版物:
@inproceedings{tiedemann - thottingal - 2020 - opus,
title = "{OPUS}-{MT} {--} Building open translation services for the World",
author = {Tiedemann, J{\"o}rg and Thottingal, Santhosh},
booktitle = "Proceedings of the 22nd Annual Conference of the European Association for Machine Translation",
month = nov,
year = "2020",
address = "Lisboa, Portugal",
publisher = "European Association for Machine Translation",
url = "https://aclanthology.org/2020.eamt - 1.61",
pages = "479--480",
}
@inproceedings{tiedemann - 2020 - tatoeba,
title = "The Tatoeba Translation Challenge {--} Realistic Data Sets for Low Resource and Multilingual {MT}",
author = {Tiedemann, J{\"o}rg},
booktitle = "Proceedings of the Fifth Conference on Machine Translation",
month = nov,
year = "2020",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2020.wmt - 1.139",
pages = "1174--1182",
}
M2m100 418M
MIT
M2M100是一个多语言编码器-解码器模型,支持100种语言的9900个翻译方向
机器翻译 支持多种语言
M
facebook
1.6M
299
Opus Mt Fr En
Apache-2.0
基于Transformer的法语到英语神经机器翻译模型,由Helsinki-NLP团队开发,采用OPUS多语数据集训练。
机器翻译 支持多种语言
O
Helsinki-NLP
1.2M
44
Opus Mt Ar En
Apache-2.0
基于OPUS数据训练的阿拉伯语到英语的机器翻译模型,采用transformer-align架构
机器翻译 支持多种语言
O
Helsinki-NLP
579.41k
42
M2m100 1.2B
MIT
M2M100是一个支持100种语言的多语言机器翻译模型,可直接在9900个翻译方向之间进行翻译。
机器翻译 支持多种语言
M
facebook
501.82k
167
Indictrans2 Indic En 1B
MIT
支持25种印度语言与英语互译的1.1B参数规模机器翻译模型,由AI4Bharat项目开发
机器翻译
Transformers 支持多种语言

I
ai4bharat
473.63k
14
Opus Mt En Zh
Apache-2.0
基于Transformer架构的英汉多方言翻译模型,支持英语到13种汉语变体的翻译任务
机器翻译 支持多种语言
O
Helsinki-NLP
442.08k
367
Opus Mt Zh En
由赫尔辛基大学开发的基于OPUS语料库的中文到英语机器翻译模型
机器翻译 支持多种语言
O
Helsinki-NLP
441.24k
505
Mbart Large 50 Many To Many Mmt
基于mBART-large-50微调的多语言机器翻译模型,支持50种语言间的互译
机器翻译 支持多种语言
M
facebook
404.66k
357
Opus Mt De En
Apache-2.0
opus-mt-de-en 是一个基于 transformer-align 架构的德语到英语的机器翻译模型,由 Helsinki-NLP 团队开发。
机器翻译 支持多种语言
O
Helsinki-NLP
404.33k
44
Opus Mt Es En
Apache-2.0
这是一个基于Transformer架构的西班牙语到英语的机器翻译模型,由Helsinki-NLP团队开发。
机器翻译
Transformers 支持多种语言

O
Helsinki-NLP
385.40k
71
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98