Mbart Russian Grammar Corrector

🚀 俄語語法糾錯微調模型

本項目是經過微調的多語言Bart模型，專門針對俄語語法糾錯任務進行訓練。它能夠有效識別並糾正俄語句子中的語法錯誤，為俄語文本處理提供了強大的支持。

🚀 快速開始

模型初始化

from transformers import MBartForConditionalGeneration, MBart50TokenizerFast
model = MBartForConditionalGeneration.from_pretrained("MRNH/mbart-russian-grammar-corrector")

分詞器使用

tokenizer = MBart50TokenizerFast.from_pretrained("MRNH/mbart-russian-grammar-corrector", src_lang="ru_RU", tgt_lang="ru_RU")
input = tokenizer("I was here yesterday to studying",text_target="I was here yesterday to study", return_tensors='pt')

模型文本生成

output = model.generate(input["input_ids"],attention_mask=input["attention_mask"],forced_bos_token_id=tokenizer_it.lang_code_to_id["ru_RU"])

🔧 技術細節

模型訓練時基於隱藏狀態輸出 h 進行如下損失計算：

h.logits, h.loss = model(input_ids=input["input_ids"],
                         attention_mask=input["attention_mask"],
                         labels=input["labels"])

📄 模型信息