Parst5 Base

🚀 ペルシャ語用モノリンガルT5モデル

このモデルは、自己教師付き学習法を用いて、OSCAR 21.09 (https://oscar-corpus.com/) コーパス上で訓練されたペルシャ語用のモノリンガルT5モデルです。事前学習には、35ギガの重複排除されたペルシャ語データが使用されています。

英語のT5モデルに似ていますが、こちらはペルシャ語専用です。特定のタスクに合わせて微調整する必要があるかもしれません。

🚀 クイックスタート

このモデルは、自己教師付き学習法を用いて、OSCAR 21.09コーパス上で訓練されたペルシャ語用のモノリンガルT5モデルです。特定のタスクに合わせて微調整することが可能です。

💻 使用例

基本的な使用法

# オリジナルのコードとコメントを保持
from transformers import T5ForConditionalGeneration,AutoTokenizer

import torch

model_name = "Ahmad/parsT5-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = T5ForConditionalGeneration.from_pretrained(model_name)

input_ids = tokenizer.encode('دانش آموزان به <extra_id_0> میروند و <extra_id_1> میخوانند.', return_tensors='pt')
with torch.no_grad():
    hypotheses = model.generate(input_ids)
for h in hypotheses:
    print(tokenizer.decode(h))

🔧 技術詳細

• ステップ数：725000
• 精度：0.66

📚 ドキュメント

さらなる訓練

モデルをさらに訓練するには、以下のGitHubリポジトリを参照してください。 https://github.com/puraminy/parsT5