Mt5 Small Spanish Summarization

🚀 mt5-small西班牙文摘要生成模型

本模型基於mt5-small微調而來，能夠根據西班牙文新聞正文生成新聞標題，有效提升新聞內容的信息提煉效率。

🚀 快速開始

此模型專為西班牙文新聞生成標題而設計，可在相關自然語言處理場景中快速投入使用。

✨ 主要特性

• 針對西班牙文新聞進行微調，能精準生成標題。
• 基於mt5-small模型，具備高效的文本處理能力。

📦 安裝指南

文檔未提供安裝步驟，暫不展示。

💻 使用示例

文檔未提供代碼示例，暫不展示。

📚 詳細文檔

模型描述

這是一個經過微調的mt5-small模型，用於根據西班牙文新聞正文生成新聞標題。

訓練數據

該模型使用從《La Razón》（31477條）和《Público》（26948條）報紙中提取的58425條新聞進行訓練。這些新聞屬於以下類別：“西班牙”、“文化”、“經濟”、“平等”和“政治”。

訓練過程

使用Google Colab的GPU Tesla P100 - PCIE - 16GB進行了2個輪次的訓練。

超參數

{evaluation_strategy = "epoch",
learning_rate = 2e-4,
per_device_train_batch_size = 6,
per_device_eval_batch_size = 6,
weight_decay = 0.01,
save_total_limit = 3,
num_train_epochs = 2,
predict_with_generate = True,
fp16 = False}

評估結果

🔧 技術細節

模型基於mt5-small架構，通過特定的微調策略，使其適應西班牙文新聞標題生成任務。在訓練過程中，使用了Google Colab的GPU資源，經過2個輪次的訓練，調整模型參數以優化生成標題的質量。

📄 許可證

本模型使用Apache-2.0許可證。

BibTeX引用

@inproceedings{ mt5lrpjosmunpen,
  year={2020},
}