Parst5 Base

🚀 波斯语单语T5模型

这是一个基于自监督方法，在OSCAR 21.09（https://oscar-corpus.com/ ）语料库上训练的波斯语单语T5模型。模型预训练使用了35GB去重后的波斯语数据。它与英语T5模型类似，但专门针对波斯语。你可能需要在特定任务上对其进行微调。

🚀 快速开始

示例代码

from transformers import T5ForConditionalGeneration,AutoTokenizer

import torch

model_name = "Ahmad/parsT5-base"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = T5ForConditionalGeneration.from_pretrained(model_name)

input_ids = tokenizer.encode('دانش آموزان به <extra_id_0> میروند و <extra_id_1> میخوانند.', return_tensors='pt')
with torch.no_grad():
    hypotheses = model.generate(input_ids)
for h in hypotheses:
    print(tokenizer.decode(h))

📚 详细文档

训练步数

725000

准确率

0.66

进一步训练

若要进一步训练该模型，请参考其GitHub仓库：https://github.com/puraminy/parsT5