Mt5 Small Spanish Summarization

🚀 mt5-small-spanish-summarization

このモデルは、スペイン語のニュース本文から見出しを生成するために微調整されたmt5-smallモデルです。

🚀 クイックスタート

このモデルは、スペイン語のニュース記事の要約を生成するために使用できます。

✨ 主な機能

• スペイン語のニュース本文から見出しを生成することができます。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションをスキップします。

💻 使用例

このREADMEには具体的なコード例が記載されていないため、このセクションをスキップします。

📚 ドキュメント

モデルの説明

これは、スペイン語のニュース本文から見出しを生成するために微調整されたmt5-smallモデルです。

学習データ

このモデルは、La Razón（31477件）とPúblico（26948件）の新聞から抽出された58425件のニュースを使用して学習されました。これらのニュースは、"España"、"Cultura"、"Economía"、"Igualdad"、"Política"のカテゴリに属しています。

学習手順

このモデルは、Google ColabのGPU Tesla P100 - PCIE - 16GBを使用して2エポックで学習されました。

ハイパーパラメータ

{evaluation_strategy = "epoch",
learning_rate = 2e-4,
per_device_train_batch_size = 6,
per_device_eval_batch_size = 6,
weight_decay = 0.01,
save_total_limi t= 3,
num_train_epochs = 2,
predict_with_generate = True,
fp16 = False}

評価結果

🔧 技術詳細

このモデルは、mt5-smallモデルをベースに、スペイン語のニュース要約タスクに対して微調整されています。学習には特定のハイパーパラメータが使用され、GPU上で2エポック学習されました。

📄 ライセンス

このモデルは、Apache - 2.0ライセンスの下で提供されています。

BibTeXエントリと引用情報

@inproceedings{ mt5lrpjosmunpen,
  year={2020},
}