T5 KES

🚀 文章校正モデル

このモデルは、文章校正とテキスト生成を行うことができます。T5ベースの事前学習モデルを利用し、特定のデータセットでファインチューニングされています。

✨ 主な機能

• 英語文章の文法誤りを修正します。
• カリブ海英語クレオール語の正規英語翻訳と位置英語翻訳の文章校正に特化しています。
• データが蓄積されるにつれて定期的に更新されます。

📦 インストール

このモデルを使用するには、必要なライブラリをインストールする必要があります。以下のコードを参考にしてください。

# 必要なライブラリのインストール
pip install happytransformer transformers

💻 使用例

基本的な使用法

from happytransformer import HappyTextToText, TTSettings

pre_trained_model="T5"
model = HappyTextToText(pre_trained_model, "KES/T5-KES")

arguments = TTSettings(num_beams=4, min_length=1)
sentence = "Wat iz your nam"

correction = model.generate_text("grammar: "+sentence, args=arguments)
if(correction.text.find(" .")):
    correction.text=correction.text.replace(" .", ".")

print(correction.text) # Correction: "What is your name?".

高度な使用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("KES/T5-KES")

model = AutoModelForSeq2SeqLM.from_pretrained("KES/T5-KES")

text = "I am lived with my parenmts "
inputs = tokenizer("grammar:"+text, truncation=True, return_tensors='pt')

output = model.generate(inputs['input_ids'], num_beams=4, max_length=512, early_stopping=True)
correction=tokenizer.batch_decode(output, skip_special_tokens=True)
print("".join(correction)) #Correction: I am living with my parents.

🔧 技術詳細

このモデルは、T5-baseの事前学習モデルを使用しています。JFLEGデータセットの修正版とHappy Transformer frameworkを用いてファインチューニングされています。ファインチューニングの結果、最終的な精度は92%に達しました。

📄 ライセンス

このモデルは、CC BY-NC-SA 4.0ライセンスの下で提供されています。