Opus Mt Tc Big Zlw En
这是一个用于从西斯拉夫语族(zlw)翻译至英语(en)的神经机器翻译模型,隶属于OPUS-MT项目。
下载量 361
发布时间 : 4/13/2022
模型简介
该模型专注于西斯拉夫语族到英语的翻译任务,支持捷克语、下索布语、上索布语和波兰语等多种语言的翻译。
模型特点
多语言支持
支持多种西斯拉夫语族语言到英语的翻译。
高性能翻译
在多个测试集上表现出色,如捷克语-英语翻译在flores101-devtest上的BLEU得分为41.2。
基于Transformer架构
采用transformer-big架构,提供高质量的翻译效果。
模型能力
文本翻译
多语言支持
使用案例
语言翻译
捷克语到英语翻译
将捷克语文本翻译为英语,适用于文档翻译、实时翻译等场景。
在flores101-devtest上的BLEU得分为41.2。
波兰语到英语翻译
将波兰语文本翻译为英语,适用于商务沟通、学术研究等场景。
在flores101-devtest上的BLEU得分为29.6。
🚀 opus-mt-tc-big-zlw-en
这是一个用于将西斯拉夫语(zlw)翻译成英语(en)的神经机器翻译模型。该模型是 [OPUS - MT 项目](https://github.com/Helsinki - NLP/Opus - MT) 的一部分,此项目致力于让神经机器翻译模型在全球多种语言中广泛可用。所有模型最初使用 [Marian NMT](https://marian - nmt.github.io/) 框架进行训练,这是一个用纯 C++ 编写的高效 NMT 实现。模型已通过 huggingface 的 transformers 库转换为 pyTorch 格式。训练数据来自 OPUS,训练流程采用 [OPUS - MT - train](https://github.com/Helsinki - NLP/Opus - MT - train) 的方法。
- 相关出版物:[OPUS - MT – Building open translation services for the World](https://aclanthology.org/2020.eamt - 1.61/) 和 [The Tatoeba Translation Challenge – Realistic Data Sets for Low Resource and Multilingual MT](https://aclanthology.org/2020.wmt - 1.139/)(如果使用此模型,请引用)
@inproceedings{tiedemann - thottingal - 2020 - opus,
title = "{OPUS}-{MT} {--} Building open translation services for the World",
author = {Tiedemann, J{\"o}rg and Thottingal, Santhosh},
booktitle = "Proceedings of the 22nd Annual Conference of the European Association for Machine Translation",
month = nov,
year = "2020",
address = "Lisboa, Portugal",
publisher = "European Association for Machine Translation",
url = "https://aclanthology.org/2020.eamt - 1.61",
pages = "479--480",
}
@inproceedings{tiedemann - 2020 - tatoeba,
title = "The Tatoeba Translation Challenge {--} Realistic Data Sets for Low Resource and Multilingual {MT}",
author = {Tiedemann, J{\"o}rg},
booktitle = "Proceedings of the Fifth Conference on Machine Translation",
month = nov,
year = "2020",
address = "Online",
publisher = "Association for Computational Linguistics",
url = "https://aclanthology.org/2020.wmt - 1.139",
pages = "1174--1182",
}
🚀 快速开始
本模型可用于将西斯拉夫语翻译成英语,下面为你介绍具体使用方法。
✨ 主要特性
- 属于 OPUS - MT 项目,旨在让更多语言的神经机器翻译模型广泛可用。
- 最初使用 Marian NMT 框架训练,后转换为 pyTorch 格式。
- 训练数据来自 OPUS,训练流程采用 OPUS - MT - train 的方法。
📦 安装指南
文档未提供安装步骤,可参考相关项目依赖进行安装。
💻 使用示例
基础用法
from transformers import MarianMTModel, MarianTokenizer
src_text = [
"Aoi'ego hobby to tańczenie.",
"Myślisz, że Tom planuje to zrobić?"
]
model_name = "pytorch - models/opus - mt - tc - big - zlw - en"
tokenizer = MarianTokenizer.from_pretrained(model_name)
model = MarianMTModel.from_pretrained(model_name)
translated = model.generate(**tokenizer(src_text, return_tensors="pt", padding=True))
for t in translated:
print( tokenizer.decode(t, skip_special_tokens=True) )
# expected output:
# Aoi's hobby is dancing.
# You think Tom's planning on doing that?
高级用法
from transformers import pipeline
pipe = pipeline("translation", model="Helsinki - NLP/opus - mt - tc - big - zlw - en")
print(pipe("Aoi'ego hobby to tańczenie."))
# expected output: Aoi's hobby is dancing.
📚 详细文档
模型信息
属性 | 详情 |
---|---|
发布时间 | 2022 - 03 - 17 |
源语言 | ces、dsb、hsb、pol |
目标语言 | eng |
模型类型 | transformer - big |
训练数据 | opusTCv20210807 + bt ([来源](https://github.com/Helsinki - NLP/Tatoeba - Challenge)) |
分词方式 | SentencePiece (spm32k,spm32k) |
原始模型 | [opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.zip](https://object.pouta.csc.fi/Tatoeba - MT - models/zlw - eng/opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.zip) |
更多信息 | [OPUS - MT zlw - eng README](https://github.com/Helsinki - NLP/Tatoeba - Challenge/tree/master/models/zlw - eng/README.md) |
基准测试
语言对 | 测试集 | chr - F | BLEU | 句子数量 | 单词数量 |
---|---|---|---|---|---|
ces - eng | tatoeba - test - v2021 - 08 - 07 | 0.71861 | 57.4 | 13824 | 105010 |
pol - eng | tatoeba - test - v2021 - 08 - 07 | 0.70544 | 55.7 | 10099 | 75766 |
ces - eng | flores101 - devtest | 0.66444 | 41.2 | 1012 | 24721 |
pol - eng | flores101 - devtest | 0.58301 | 29.6 | 1012 | 24721 |
slk - eng | flores101 - devtest | 0.66103 | 40.0 | 1012 | 24721 |
ces - eng | multi30k_test_2016_flickr | 0.61482 | 37.6 | 1000 | 12955 |
ces - eng | multi30k_test_2018_flickr | 0.61405 | 37.4 | 1071 | 14689 |
pol - eng | newsdev2020 | 0.60478 | 32.7 | 2000 | 46654 |
ces - eng | newssyscomb2009 | 0.56495 | 30.2 | 502 | 11818 |
ces - eng | news - test2008 | 0.54300 | 26.3 | 2051 | 49380 |
ces - eng | newstest2009 | 0.56309 | 29.5 | 2525 | 65399 |
ces - eng | newstest2010 | 0.57778 | 30.7 | 2489 | 61711 |
ces - eng | newstest2011 | 0.57336 | 30.9 | 3003 | 74681 |
ces - eng | newstest2012 | 0.56761 | 29.4 | 3003 | 72812 |
ces - eng | newstest2013 | 0.58809 | 32.8 | 3000 | 64505 |
ces - eng | newstest2014 | 0.64401 | 38.7 | 3003 | 68065 |
ces - eng | newstest2015 | 0.58607 | 33.4 | 2656 | 53569 |
ces - eng | newstest2016 | 0.61780 | 37.1 | 2999 | 64670 |
ces - eng | newstest2017 | 0.58259 | 32.5 | 3005 | 61721 |
ces - eng | newstest2018 | 0.58677 | 33.1 | 2983 | 63495 |
pol - eng | newstest2020 | 0.60047 | 32.6 | 1001 | 21755 |
- 测试集翻译:[opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.test.txt](https://object.pouta.csc.fi/Tatoeba - MT - models/zlw - eng/opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.test.txt)
- 测试集得分:[opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.eval.txt](https://object.pouta.csc.fi/Tatoeba - MT - models/zlw - eng/opusTCv20210807 + bt_transformer - big_2022 - 03 - 17.eval.txt)
- 基准测试结果:benchmark_results.txt
- 基准测试输出:benchmark_translations.zip
致谢
本工作得到了以下项目的支持:
- [欧洲语言网格](https://www.european - language - grid.eu/) 的 [试点项目 2866](https://live.european - language - grid.eu/catalogue/#/resource/projects/2866)。
- [FoTran 项目](https://www.helsinki.fi/en/researchgroups/natural - language - understanding - with - cross - lingual - grounding),由欧盟的“地平线 2020”研究和创新计划(资助协议编号 771113)下的欧洲研究理事会(ERC)资助。
- MeMAD 项目,由欧盟的“地平线 2020”研究和创新计划资助(资助协议编号 780069)。
同时,我们感谢 芬兰科学信息技术中心(CSC) 提供的慷慨计算资源和 IT 基础设施。
模型转换信息
属性 | 详情 |
---|---|
transformers 版本 | 4.16.2 |
OPUS - MT git 哈希值 | 3405783 |
转换时间 | Wed Apr 13 20:19:48 EEST 2022 |
转换机器 | LM0 - 400 - 22516.local |
📄 许可证
本模型采用 CC - BY - 4.0 许可证。
M2m100 418M
MIT
M2M100是一个多语言编码器-解码器模型,支持100种语言的9900个翻译方向
机器翻译 支持多种语言
M
facebook
1.6M
299
Opus Mt Fr En
Apache-2.0
基于Transformer的法语到英语神经机器翻译模型,由Helsinki-NLP团队开发,采用OPUS多语数据集训练。
机器翻译 支持多种语言
O
Helsinki-NLP
1.2M
44
Opus Mt Ar En
Apache-2.0
基于OPUS数据训练的阿拉伯语到英语的机器翻译模型,采用transformer-align架构
机器翻译 支持多种语言
O
Helsinki-NLP
579.41k
42
M2m100 1.2B
MIT
M2M100是一个支持100种语言的多语言机器翻译模型,可直接在9900个翻译方向之间进行翻译。
机器翻译 支持多种语言
M
facebook
501.82k
167
Indictrans2 Indic En 1B
MIT
支持25种印度语言与英语互译的1.1B参数规模机器翻译模型,由AI4Bharat项目开发
机器翻译
Transformers 支持多种语言

I
ai4bharat
473.63k
14
Opus Mt En Zh
Apache-2.0
基于Transformer架构的英汉多方言翻译模型,支持英语到13种汉语变体的翻译任务
机器翻译 支持多种语言
O
Helsinki-NLP
442.08k
367
Opus Mt Zh En
由赫尔辛基大学开发的基于OPUS语料库的中文到英语机器翻译模型
机器翻译 支持多种语言
O
Helsinki-NLP
441.24k
505
Mbart Large 50 Many To Many Mmt
基于mBART-large-50微调的多语言机器翻译模型,支持50种语言间的互译
机器翻译 支持多种语言
M
facebook
404.66k
357
Opus Mt De En
Apache-2.0
opus-mt-de-en 是一个基于 transformer-align 架构的德语到英语的机器翻译模型,由 Helsinki-NLP 团队开发。
机器翻译 支持多种语言
O
Helsinki-NLP
404.33k
44
Opus Mt Es En
Apache-2.0
这是一个基于Transformer架构的西班牙语到英语的机器翻译模型,由Helsinki-NLP团队开发。
机器翻译
Transformers 支持多种语言

O
Helsinki-NLP
385.40k
71
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98