Tst Summarization

🚀 tst-summarization

本模型是 google/pegasus-xsum 在 cnn_dailymail 3.0.0 數據集上的微調版本，可用於文本摘要任務。

🚀 快速開始

此模型是基於 transformers 庫微調得到，可直接使用該庫加載模型進行摘要生成。

✨ 主要特性

• 微調基礎模型：基於 google/pegasus-xsum 模型在 cnn_dailymail 數據集上微調，適用於新聞文本摘要任務。
• 評估指標：使用 rouge 指標進行評估。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：5e-05
• 訓練批次大小（train_batch_size）：2
• 評估批次大小（eval_batch_size）：2
• 隨機種子（seed）：42
• 優化器（optimizer）：Adam，其中 betas=(0.9, 0.999)，epsilon=1e-08
• 學習率調度器類型（lr_scheduler_type）：線性
• 訓練輪數（num_epochs）：3.0

框架版本

• Transformers：4.28.0
• Pytorch：1.13.1+cu117
• Datasets：2.12.0
• Tokenizers：0.13.3

📄 許可證

文檔中未提及相關許可證信息。