Mbart Russian Grammar Corrector

🚀 マルチリンガルBartの俄語文法修正モデル

このモデルは、俄語の文法誤り修正のために微調整されたマルチリンガルBartのバージョンです。

🚀 クイックスタート

モデルの初期化

from transformers import MBartForConditionalGeneration, MBart50TokenizerFast
model = MBartForConditionalGeneration.from_pretrained("MRNH/mbart-russian-grammar-corrector")

トークナイザーの使用

tokenizer = MBart50TokenizerFast.from_pretrained("MRNH/mbart-russian-grammar-corrector", src_lang="ru_RU", tgt_lang="ru_RU")
input = tokenizer("I was here yesterday to studying",text_target="I was here yesterday to study", return_tensors='pt')

モデルを使用したテキスト生成

output = model.generate(input["input_ids"],attention_mask=input["attention_mask"],forced_bos_token_id=tokenizer_it.lang_code_to_id["ru_RU"])

モデルの学習

モデルの学習は、隠れ層の出力hに基づく以下の損失計算を使用して行われます。

h.logits, h.loss = model(input_ids=input["input_ids"],
                                                  attention_mask=input["attention_mask"],
                                                  labels=input["labels"])

📚 ドキュメント