Arxiv27k T5 Abst Title Gen

🚀 arxiv27k-t5-abst-title-gen/

このモデルは、arxiv-abstract-titleデータセット上でmt5-smallをファインチューニングしたバージョンです。与えられた論文の要約からタイトルを生成するのに役立ちます。

🚀 クイックスタート

このモデルは、arxiv-abstract-titleデータセット上でmt5-smallをファインチューニングして作成されました。評価セットでは以下の結果を達成しています。

• 損失: 1.6002
• Rouge1: 32.8
• Rouge2: 21.9
• Rougel: 34.8

✨ 主な機能

• 与えられた要約から論文のタイトルを生成することができます。

📚 ドキュメント

モデルの説明

モデルはcolab-proノートブックを使用して4時間で学習されました。

想定される使用目的と制限

与えられた要約から論文のタイトルを生成するために使用できます。

学習引数

model_args = T5Args()
model_args.max_seq_length = 256
model_args.train_batch_size = 8
model_args.eval_batch_size = 8
model_args.num_train_epochs = 6
model_args.evaluate_during_training = False
model_args.use_multiprocessing = False
model_args.fp16 = False
model_args.save_steps = 40000
model_args.save_eval_checkpoints = False
model_args.save_model_every_epoch = True
model_args.output_dir = OUTPUT_DIR
model_args.no_cache = True
model_args.reprocess_input_data = True
model_args.overwrite_output_dir = True
model_args.num_return_sequences = 1

フレームワークのバージョン

連絡先

detasar@gmail.com Davut Emre Taşar

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。