Bartxiv

🚀 BARTxiv

このモデルは、arxiv-summarization データセット上で facebook/bart-large-cnn をファインチューニングしたバージョンです。モデルの実装はこちらで確認できます。 検証セットでは以下の結果を達成しています：

• 損失: 0.86
• Rouge1: 41.70
• Rouge2: 15.13
• Rougel: 22.85
• Rougelsum: 37.77

🚀 クイックスタート

このモデルは、論文の要約タスクに使用できます。詳細な使い方はモデルの実装リンクを参照してください。

📚 ドキュメント

モデルの概要

このモデルは、facebook/bart-large-cnn を arxiv-summarization データセットでファインチューニングしたものです。

想定される用途と制限事項

詳細な情報は後ほど提供される予定です。

学習と評価データ

詳細な情報は後ほど提供される予定です。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです：

• learning_rate: 1e-6
• train_batch_size: 1
• eval_batch_size: 1
• seed: 42
• optimizer: Adafactor
• num_epochs: 9

学習結果

フレームワークのバージョン

• Transformers 4.25.1
• Pytorch 1.13.0+cu117
• Datasets 2.6.1
• Tokenizers 0.13.1

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。