Gpt2 Finetuned Cnn Summarization V2

🚀 gpt2-finetuned-cnn-summarization-v2

このモデルは、未知のデータセットでgpt2をファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 2.1684

🚀 クイックスタート

このモデルは、要約タスクに適用できます。未知のデータセットでファインチューニングされており、評価セットで一定の性能を示しています。

🔧 技術詳細

学習ハイパーパラメータ

学習中に以下のハイパーパラメータが使用されました。

• learning_rate: 5e-05
• train_batch_size: 1
• eval_batch_size: 1
• seed: 42
• optimizer: Adam (betas=(0.9,0.999), epsilon=1e-08)
• lr_scheduler_type: linear
• num_epochs: 3

学習結果

フレームワークバージョン

• Transformers 4.24.0
• Pytorch 1.12.1+cu113
• Datasets 2.7.1
• Tokenizers 0.13.2

📄 ライセンス

このモデルはMITライセンスの下で提供されています。