Flan T5 Portuguese Small Summarization

🚀 flan-t5-portuguese-small-summarization

該模型旨在滿足葡萄牙語在特定任務上的模型需求。它在摘要任務中表現出色。不過，由於模型為小版本，偶爾可能會因單詞重音問題出現一些錯誤。

🚀 快速開始

以下是使用該模型進行摘要生成的示例代碼：

!pip install transformers
from transformers import pipeline
summarization = pipeline("summarization", model="rhaymison/flan-t5-portuguese-small-summarization", tokenizer="rhaymison/flan-t5-portuguese-small-summarization")

prompt =f"""
sumarize: No que consiste o transtorno dismórfico corporal? São pessoas que se acham feias e querem mudar sua aparência de forma obsessiva, mesmo que não tenham nenhum problema. Num dos estudos que fiz, detectamos que de 50% a 54% dos pacientes que procuram cirurgia de face, nariz ou abdômen apresentam essa condição. A cirurgia pode beneficiar aqueles com um quadro leve ou intermediário do transtorno. No entanto, os que apresentam um transtorno mais grave não devem ser operados, e sim encaminhados para tratamento psicológico. A maior dificuldade é que aceitem ajuda. Muitos preferem buscar um médico que dê sinal verde para a intervenção.
"""
output =  summarization(prompt)

#Transtorno dismórfico corporal: o que apresenta o transtorno no deve ser operados, e sim encaminhados para tratamento psicológico. 
#A cirurgia pode beneficiar aqueles com um quadro leve ou intermediário do transtornamento, nariz ou abdômen.

✨ 主要特性

• 專為葡萄牙語摘要任務設計，能有效滿足相關需求。
• 在摘要任務中展現出良好的性能。

📦 安裝指南

!pip install transformers

💻 使用示例

基礎用法

from transformers import pipeline
summarization = pipeline("summarization", model="rhaymison/flan-t5-portuguese-small-summarization", tokenizer="rhaymison/flan-t5-portuguese-small-summarization")

prompt = "sumarize: 具體需要總結的文本內容"
output =  summarization(prompt)

🔧 技術細節

訓練超參數

在訓練過程中使用了以下超參數：

• 學習率（learning_rate）：5e-05
• 訓練批次大小（train_batch_size）：8
• 評估批次大小（eval_batch_size）：8
• 隨機種子（seed）：42
• 梯度累積步數（gradient_accumulation_steps）：2
• 總訓練批次大小（total_train_batch_size）：16
• 優化器（optimizer）：Adam，β1=0.9，β2=0.999，ε=1e-08
• 學習率調度器類型（lr_scheduler_type）：線性
• 訓練輪數（num_epochs）：5

訓練結果

框架版本

• Transformers 4.38.2
• Pytorch 2.2.1+cu121
• Datasets 2.18.0
• Tokenizers 0.15.2

📄 許可證

本模型採用 Apache-2.0 許可證。

反饋與聯繫

歡迎提供任何想法、幫助或報告問題。 郵箱：rhaymisoncristian@gmail.com