Gec T5 Small

🚀 語法糾錯模型

本項目實現了一個語法糾錯模型，該模型基於Google的論文 A Simple Recipe for Multilingual Grammatical Error Correction，此論文在語法糾錯（GEC）任務中取得了當前最優成績。本項目使用T5-small模型，實現了論文中所報告的F_0.5分數（60.70）。

🚀 快速開始

調用託管推理API

若要有效使用“託管推理API”，請輸入 "gec: [你的句子]"。

使用模型代碼示例

若要使用該模型，請參考以下代碼片段：

from transformers import T5ForConditionalGeneration, T5Tokenizer

model = T5ForConditionalGeneration.from_pretrained("Unbabel/gec-t5_small")
tokenizer = T5Tokenizer.from_pretrained('t5-small')

sentence = "I like to swimming"
tokenized_sentence = tokenizer('gec: ' + sentence, max_length=128, truncation=True, padding='max_length', return_tensors='pt')
corrected_sentence = tokenizer.decode(
    model.generate(
        input_ids = tokenized_sentence.input_ids,
        attention_mask = tokenized_sentence.attention_mask, 
        max_length=128,
        num_beams=5,
        early_stopping=True,
    )[0],
    skip_special_tokens=True, 
    clean_up_tokenization_spaces=True
)
print(corrected_sentence) # -> I like swimming.

📄 許可證

本項目採用Apache-2.0許可證。

📋 模型信息