Long T5 Tglobal Base Sci Simplify

🚀 long-t5-tglobal-base-sci-simplify

本項目旨在探索基於科學論文“通俗摘要”訓練的長文檔模型的泛化能力。通俗摘要指的是用通俗易懂的語言撰寫的科研論文或科學研究總結，不使用專業術語，便於非專業人士理解。

🚀 快速開始

你可以點擊下面的鏈接在Colab中打開示例：

✨ 主要特性

• 該模型是在 pszemraj/scientific_lay_summarisation-plos-norm 數據集上對 google/long-t5-tglobal-base 進行兩個週期微調得到的。
• 基於 ELIFE 子集訓練的變體可以在 這裡 找到。

📦 安裝指南

建議使用 波束搜索解碼 來使用此模型。如果你有興趣，也可以使用 textsum 工具倉庫來簡化操作。

使用 pip 安裝：

pip install -U textsum

💻 使用示例

基礎用法

在 Python 中使用的示例代碼如下：

from textsum.summarize import Summarizer

summarizer = Summarizer('pszemraj/long-t5-tglobal-base-sci-simplify')
text = "put the text you don't want to read here"
summary = summarizer.summarize_string(text)
print(summary)

📚 詳細文檔

預期用途與侷限性

• 需要評估該模型在數據集領域（如 PubMed/生物科學類論文）之外的泛化能力。

訓練過程

評估結果

該模型在評估集上取得了以下結果：

• 損失值：1.6778
• Rouge1：49.1475
• Rouge2：18.9281
• Rougel：26.9893
• Rougelsum：45.0973
• 生成長度：399.4125

訓練超參數

訓練過程中使用了以下超參數：

訓練結果