Bart Large Cnn Finetuned Pubmed

🚀 bart-large-cnn-finetuned-pubmed

このモデルは、pub_med_summarization_datasetデータセットでfacebook/bart-large-cnnをファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 1.8416
• Rouge1: 40.4866
• Rouge2: 16.7472
• Rougel: 24.9831
• Rougelsum: 36.4002
• 生成長: 142.0

📚 ドキュメント

モデルの概要

詳細情報は後日追加予定です。

想定される用途と制限

詳細情報は後日追加予定です。

学習と評価データ

詳細情報は後日追加予定です。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 2e-05
• 学習バッチサイズ: 2
• 評価バッチサイズ: 2
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: linear
• エポック数: 5
• 混合精度学習: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.16.2
• Pytorch 1.10.0+cu111
• Datasets 1.18.3
• Tokenizers 0.11.6

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

タグ

• generated_from_trainer

データセット

• pub_med_summarization_dataset

評価指標

• rouge

モデルインデックス

• 名前: bart-large-cnn-finetuned-pubmed 結果:
  • タスク: 名前: Sequence-to-sequence Language Modeling タイプ: text2text-generation データセット: 名前: pub_med_summarization_dataset タイプ: pub_med_summarization_dataset 引数: document 評価指標:
    • 名前: Rouge1 タイプ: rouge 値: 40.4866