Flan T5 Base Opus En Id Id En

🚀 flan - t5 - base - opus - en - id - id - en

このモデルは、インドネシア語と英語のみの多言語翻訳を行うための翻訳モデルです。

🚀 クイックスタート

このモデルは、インドネシア語と英語の間の翻訳を行うために設計されています。以下に、使用方法の例を示します。

✨ 主な機能

• インドネシア語と英語の相互翻訳が可能です。

📚 ドキュメント

モデル詳細

モデルの使用方法

モデルの実行環境

このモデルは、CPU、GPUで実行することができます。また、GPUでは異なる精度（FP16、INT8）での実行もサポートしています。

コード例

以下に、異なる環境でのモデルの実行例を示します。

💻 使用例

基本的な使用法

from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en")
model = T5ForConditionalGeneration.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en")
input_text = "translate English to Indonesia: How old are you?"
input_ids = tokenizer(input_text, return_tensors="pt").input_ids
outputs = model.generate(input_ids)
print(tokenizer.decode(outputs[0]))

高度な使用法

GPUでの実行

# pip install accelerate
from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en")
model = T5ForConditionalGeneration.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en", device_map="auto")
input_text = "translate English to Indonesia: How old are you?"
input_ids = tokenizer(input_text, return_tensors="pt").input_ids.to("cuda")
outputs = model.generate(input_ids)
print(tokenizer.decode(outputs[0]))

GPUでのFP16精度での実行

# pip install accelerate
import torch
from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-ene")
model = T5ForConditionalGeneration.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en", device_map="auto", torch_dtype=torch.float16)
input_text = "translate English to Indonesia: How old are you?"
input_ids = tokenizer(input_text, return_tensors="pt").input_ids.to("cuda")
outputs = model.generate(input_ids)
print(tokenizer.decode(outputs[0]))

GPUでのINT8精度での実行

# pip install bitsandbytes accelerate
from transformers import T5Tokenizer, T5ForConditionalGeneration
tokenizer = T5Tokenizer.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en")
model = T5ForConditionalGeneration.from_pretrained("muvazana/flan-t5-base-opus-en-id-id-en", device_map="auto", load_in_8bit=True)
input_text = "translate English to Indonesia: How old are you?"
input_ids = tokenizer(input_text, return_tensors="pt").input_ids.to("cuda")
outputs = model.generate(input_ids)
print(tokenizer.decode(outputs[0]))

学習結果

フレームワークのバージョン

• Transformers 4.29.2
• Pytorch 2.0.1
• Datasets 2.13.1
• Tokenizers 0.13.3

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。