Flan T5 Portuguese Small Summarization

🚀 flan-t5-portuguese-small-summarization

该模型旨在满足葡萄牙语在特定任务上的模型需求。它在摘要任务中表现出色。不过，由于模型为小版本，偶尔可能会因单词重音问题出现一些错误。

🚀 快速开始

以下是使用该模型进行摘要生成的示例代码：

!pip install transformers
from transformers import pipeline
summarization = pipeline("summarization", model="rhaymison/flan-t5-portuguese-small-summarization", tokenizer="rhaymison/flan-t5-portuguese-small-summarization")

prompt =f"""
sumarize: No que consiste o transtorno dismórfico corporal? São pessoas que se acham feias e querem mudar sua aparência de forma obsessiva, mesmo que não tenham nenhum problema. Num dos estudos que fiz, detectamos que de 50% a 54% dos pacientes que procuram cirurgia de face, nariz ou abdômen apresentam essa condição. A cirurgia pode beneficiar aqueles com um quadro leve ou intermediário do transtorno. No entanto, os que apresentam um transtorno mais grave não devem ser operados, e sim encaminhados para tratamento psicológico. A maior dificuldade é que aceitem ajuda. Muitos preferem buscar um médico que dê sinal verde para a intervenção.
"""
output =  summarization(prompt)

#Transtorno dismórfico corporal: o que apresenta o transtorno no deve ser operados, e sim encaminhados para tratamento psicológico. 
#A cirurgia pode beneficiar aqueles com um quadro leve ou intermediário do transtornamento, nariz ou abdômen.

✨ 主要特性

• 专为葡萄牙语摘要任务设计，能有效满足相关需求。
• 在摘要任务中展现出良好的性能。

📦 安装指南

!pip install transformers

💻 使用示例

基础用法

from transformers import pipeline
summarization = pipeline("summarization", model="rhaymison/flan-t5-portuguese-small-summarization", tokenizer="rhaymison/flan-t5-portuguese-small-summarization")

prompt = "sumarize: 具体需要总结的文本内容"
output =  summarization(prompt)

🔧 技术细节

训练超参数

在训练过程中使用了以下超参数：

• 学习率（learning_rate）：5e-05
• 训练批次大小（train_batch_size）：8
• 评估批次大小（eval_batch_size）：8
• 随机种子（seed）：42
• 梯度累积步数（gradient_accumulation_steps）：2
• 总训练批次大小（total_train_batch_size）：16
• 优化器（optimizer）：Adam，β1=0.9，β2=0.999，ε=1e-08
• 学习率调度器类型（lr_scheduler_type）：线性
• 训练轮数（num_epochs）：5

训练结果

框架版本

• Transformers 4.38.2
• Pytorch 2.2.1+cu121
• Datasets 2.18.0
• Tokenizers 0.15.2

📄 许可证

本模型采用 Apache-2.0 许可证。

反馈与联系

欢迎提供任何想法、帮助或报告问题。 邮箱：rhaymisoncristian@gmail.com