Pegasus Multi News NewsSummarization BBC

🚀 pegasus-multi_news-NewsSummarization_BBC

このモデルは、google/pegasus-multi_news をファインチューニングしたバージョンです。このモデルは、ニュース記事の要約を行うことができ、技術を用いて複雑な問題を解決する能力を示すために作成されました。

🚀 クイックスタート

このモデルは、ニュース記事のテキスト要約モデルです。作成方法の詳細については、以下のリンクをご確認ください。 https://github.com/DunnBC22/NLP_Projects/blob/main/Text%20Summarization/Text_Summarization_BBC_News-Pegasus.ipynb

✨ 主な機能

このモデルは、技術を用いて複雑な問題を解決する能力を示すことを目的としています。

📦 インストール

このREADMEにはインストール手順に関する具体的な内容がありませんので、このセクションは省略されています。

📚 ドキュメント

モデルの用途と制限

このモデルは、技術を用いて複雑な問題を解決する能力を示すことを目的としています。

学習と評価データ

データセットのソース: https://www.kaggle.com/datasets/pariza/bbc-news-summary

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 2e-05
• train_batch_size: 1
• eval_batch_size: 1
• seed: 42
• gradient_accumulation_steps: 16
• total_train_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 50
• num_epochs: 2

学習結果

残念ながら、メトリクスを自動的にここにアップロードするように設定していません。結果は以下の通りです。

フレームワークのバージョン

• Transformers 4.21.3
• Pytorch 1.12.1
• Datasets 2.4.0
• Tokenizers 0.12.1

🔧 技術詳細

このモデルの技術的な詳細については、以下のリンクを参照してください。 https://github.com/DunnBC22/NLP_Projects/blob/main/Text%20Summarization/Text_Summarization_BBC_News-Pegasus.ipynb