Translation Pt En T5

🚀 T5を用いたポルトガル語 - 英語翻訳実装

このリポジトリは、適度なハードウェア設定でポルトガル語 - 英語翻訳タスクにT5を実装したものです。トークナイザーと後処理にいくつかの変更を加えることで結果を改善し、翻訳にはポルトガル語の事前学習モデルを使用しています。詳細な情報は当リポジトリを参照してください。また、当論文もご確認ください！

🚀 クイックスタート

このリポジトリでは、ポルトガル語 - 英語の翻訳タスクにT5を用いた実装を提供しています。適度なハードウェア設定でも動作し、トークナイザーと後処理に工夫を施すことで結果を改善しています。

✨ 主な機能

• ポルトガル語 - 英語の翻訳タスクにT5を用いた実装
• トークナイザーと後処理の改善による翻訳結果の向上
• ポルトガル語の事前学習モデルを使用

📦 インストール

「Use in Transformers」の指示に従ってください。T5にタスクを定義するためにいくつかの単語を追加する必要があります。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM, pipeline
  
tokenizer = AutoTokenizer.from_pretrained("unicamp-dl/translation-pt-en-t5")

model = AutoModelForSeq2SeqLM.from_pretrained("unicamp-dl/translation-pt-en-t5")

pten_pipeline = pipeline('text2text-generation', model=model, tokenizer=tokenizer)

pten_pipeline("translate Portuguese to English: Eu gosto de comer arroz.")

📚 ドキュメント

言語

• 英語
• ポルトガル語

データセット

• EMEA
• ParaCrawl 99k
• CAPES
• Scielo
• JRC - Acquis
• Biomedical Domain Corpora

タグ

• 翻訳

評価指標

• bleu

📄 ライセンス

@inproceedings{lopes-etal-2020-lite,
    title = "Lite Training Strategies for {P}ortuguese-{E}nglish and {E}nglish-{P}ortuguese Translation",
    author = "Lopes, Alexandre  and
      Nogueira, Rodrigo  and
      Lotufo, Roberto  and
      Pedrini, Helio",
    booktitle = "Proceedings of the Fifth Conference on Machine Translation",
    month = nov,
    year = "2020",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://www.aclweb.org/anthology/2020.wmt-1.90",
    pages = "833--840",
}