T5 Base Dutch Demo

🚀 t5-base-dutch-demo 📰

本項目由 Yeb Havinga 和 Dat Nguyen 在 Hugging Face社區周 期間創建。該模型基於 t5-base-dutch 微調而來，用於生成新聞文章的摘要。

想體驗模型的演示效果，可前往Hugging Face Spaces查看 Netherformer 📰 示例應用！

🚀 快速開始

本項目提供了一個基於t5-base-dutch微調的新聞摘要生成模型。你可以通過訪問示例應用來體驗模型的功能。

✨ 主要特性

• 基於t5-base-dutch模型微調，專注於新聞文章摘要生成。
• 使用三種混合新聞來源進行訓練，數據豐富。
• 通過Rouge指標評估模型性能。

📦 安裝指南

文檔未提及安裝步驟，故跳過此章節。

💻 使用示例

文檔未提供代碼示例，故跳過此章節。

📚 詳細文檔

數據集

t5-base-dutch-demo 在三種混合新聞來源上進行了微調：

1. CNN DailyMail：使用MarianMT將其翻譯成荷蘭語。
2. XSUM：同樣使用MarianMt翻譯成荷蘭語。
3. 從nu.nl網站提取的新聞文章摘要。

該數據集中的訓練示例總數為1366592。

訓練

訓練過程是對 t5-base-dutch 進行微調，使用了以下參數：

• 恆定學習率：0.0005
• 批量大小：8
• 1個訓練週期（170842步）

評估

摘要模型的性能使用Huggingface Datasets庫中的Rouge指標進行衡量。

    "rouge{n}"（例如 `"rouge1"`、`"rouge2"`），其中 {n} 是基於n-gram的評分；
    "rougeL"：基於最長公共子序列的評分。

• Rouge1：23.8
• Rouge2：6.9
• RougeL：19.7

如果針對CNN DM和XSUM數據集（翻譯成荷蘭語）單獨配置評估進行訓練，預計這些分數會有所提高。

🔧 技術細節

本模型基於t5-base-dutch進行微調，通過特定的訓練參數和數據集來優化新聞摘要生成的性能。使用Rouge指標評估模型在摘要生成任務上的表現，該指標能夠從不同角度衡量摘要與原文的相似度。

📄 許可證

文檔未提及許可證信息，故跳過此章節。