Long T5 Tglobal Base Sci Simplify

🚀 long-t5-tglobal-base-sci-simplify

本项目旨在探索基于科学论文“通俗摘要”训练的长文档模型的泛化能力。通俗摘要指的是用通俗易懂的语言撰写的科研论文或科学研究总结，不使用专业术语，便于非专业人士理解。

🚀 快速开始

你可以点击下面的链接在Colab中打开示例：

✨ 主要特性

• 该模型是在 pszemraj/scientific_lay_summarisation-plos-norm 数据集上对 google/long-t5-tglobal-base 进行两个周期微调得到的。
• 基于 ELIFE 子集训练的变体可以在 这里 找到。

📦 安装指南

建议使用 波束搜索解码 来使用此模型。如果你有兴趣，也可以使用 textsum 工具仓库来简化操作。

使用 pip 安装：

pip install -U textsum

💻 使用示例

基础用法

在 Python 中使用的示例代码如下：

from textsum.summarize import Summarizer

summarizer = Summarizer('pszemraj/long-t5-tglobal-base-sci-simplify')
text = "put the text you don't want to read here"
summary = summarizer.summarize_string(text)
print(summary)

📚 详细文档

预期用途与局限性

• 需要评估该模型在数据集领域（如 PubMed/生物科学类论文）之外的泛化能力。

训练过程

评估结果

该模型在评估集上取得了以下结果：

• 损失值：1.6778
• Rouge1：49.1475
• Rouge2：18.9281
• Rougel：26.9893
• Rougelsum：45.0973
• 生成长度：399.4125

训练超参数

训练过程中使用了以下超参数：

训练结果