T5 Base Dutch Demo

🚀 t5-base-dutch-demo 📰

本项目由 Yeb Havinga 和 Dat Nguyen 在 Hugging Face社区周 期间创建。该模型基于 t5-base-dutch 微调而来，用于生成新闻文章的摘要。

想体验模型的演示效果，可前往Hugging Face Spaces查看 Netherformer 📰 示例应用！

🚀 快速开始

本项目提供了一个基于t5-base-dutch微调的新闻摘要生成模型。你可以通过访问示例应用来体验模型的功能。

✨ 主要特性

• 基于t5-base-dutch模型微调，专注于新闻文章摘要生成。
• 使用三种混合新闻来源进行训练，数据丰富。
• 通过Rouge指标评估模型性能。

📦 安装指南

文档未提及安装步骤，故跳过此章节。

💻 使用示例

文档未提供代码示例，故跳过此章节。

📚 详细文档

数据集

t5-base-dutch-demo 在三种混合新闻来源上进行了微调：

1. CNN DailyMail：使用MarianMT将其翻译成荷兰语。
2. XSUM：同样使用MarianMt翻译成荷兰语。
3. 从nu.nl网站提取的新闻文章摘要。

该数据集中的训练示例总数为1366592。

训练

训练过程是对 t5-base-dutch 进行微调，使用了以下参数：

• 恒定学习率：0.0005
• 批量大小：8
• 1个训练周期（170842步）

评估

摘要模型的性能使用Huggingface Datasets库中的Rouge指标进行衡量。

    "rouge{n}"（例如 `"rouge1"`、`"rouge2"`），其中 {n} 是基于n-gram的评分；
    "rougeL"：基于最长公共子序列的评分。

• Rouge1：23.8
• Rouge2：6.9
• RougeL：19.7

如果针对CNN DM和XSUM数据集（翻译成荷兰语）单独配置评估进行训练，预计这些分数会有所提高。

🔧 技术细节

本模型基于t5-base-dutch进行微调，通过特定的训练参数和数据集来优化新闻摘要生成的性能。使用Rouge指标评估模型在摘要生成任务上的表现，该指标能够从不同角度衡量摘要与原文的相似度。

📄 许可证

文档未提及许可证信息，故跳过此章节。