T5 En Vi Base

🚀 T5-EN-VI-BASE: 英語とベトナム語翻訳のためのテキスト-to-テキスト転移Transformerの事前学習

このプロジェクトは、英語とベトナム語の翻訳に特化したT5モデルを事前学習することを目的としています。

🚀 クイックスタート

このモデルを使用するには、以下のコード例を参考にしてください。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションを省略します。

✨ 主な機能

• 英語とベトナム語の翻訳タスクに特化した事前学習済みモデルを提供します。
• 複数のモデル構成での実験結果を提供し、性能を比較できます。

📚 ドキュメント

データセット

IWSLT'15 English-Vietnamese データセットが Stanford NLP group から使用されています。

すべての実験で、コーパスはトレーニングセット、開発セット、テストセットに分割されています。

結果

テストセットでの結果は以下の通りです。

💻 使用例

基本的な使用法

import torch

from transformers import T5ForConditionalGeneration, T5Tokenizer
import torch
if torch.cuda.is_available():       
    device = torch.device("cuda")

    print('There are %d GPU(s) available.' % torch.cuda.device_count())

    print('We will use the GPU:', torch.cuda.get_device_name(0))
else:
    print('No GPU available, using the CPU instead.')
    device = torch.device("cpu")

model = T5ForConditionalGeneration.from_pretrained("NlpHUST/t5-en-vi-small")
tokenizer = T5Tokenizer.from_pretrained("NlpHUST/t5-en-vi-small")
model.to(device)

src = "In school , we spent a lot of time studying the history of Kim Il-Sung , but we never learned much about the outside world , except that America , South Korea , Japan are the enemies ."
tokenized_text = tokenizer.encode(src, return_tensors="pt").to(device)
model.eval()
summary_ids = model.generate(
                    tokenized_text,
                    max_length=128, 
                    num_beams=5,
                    repetition_penalty=2.5, 
                    length_penalty=1.0, 
                    early_stopping=True
                )
output = tokenizer.decode(summary_ids[0], skip_special_tokens=True)
print(output)

出力例

Ở trường, chúng tôi dành nhiều thời gian để nghiên cứu về lịch sử Kim Il-Sung, nhưng chúng tôi chưa bao giờ học được nhiều về thế giới bên ngoài, ngoại trừ Mỹ, Hàn Quốc, Nhật Bản là kẻ thù.

連絡先

このプロジェクトに関する個人的な連絡は、Nha Nguyen Van (nha282@gmail.com) にお問い合わせください。