TGL 3

🚀 TGL-3

TGL-3 是 t5-small 在抽象摘要數據集上的微調版本，使用了 23000 條數據進行訓練。這些數據來自 openreview.net。該模型在評估集上取得了以下結果：

• 損失值：2.4435
• Rouge1：36.4998
• Rouge2：17.8322
• Rougel：31.8632
• Rougelsum：31.8341

🚀 快速開始

本部分暫未提供相關內容，若有需要可進一步補充。

✨ 主要特性

• 基於t5-small模型進行微調，適用於摘要生成任務。
• 在評估集上有明確的損失值和 Rouge 指標結果，可衡量模型性能。

📚 詳細文檔

模型描述

相關論文鏈接：https://arxiv.org/abs/1910.10683

預期用途和限制

更多信息待補充。

訓練和評估數據

更多信息待補充。

🔧 技術細節

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：5.6e-05
• 訓練批次大小：8
• 評估批次大小：8
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
• 學習率調度器類型：線性
• 訓練輪數：8

訓練結果

框架版本

• Transformers 4.21.1
• Pytorch 1.12.0+cu113
• Datasets 2.4.0
• Tokenizers 0.12.1

📄 許可證

本模型採用 Apache-2.0 許可證。