bart-base-finetuned-pubmedオープンソースモデル - 医学文献の要約生成タスクに無料で利用可能

Bart Base Finetuned Pubmed

Kevincp560によって開発

このモデルは、facebook/bart-baseを基に、pub_med_summarization_datasetデータセットで微調整したバージョンで、主に医学文献の要約生成タスクに使用されます。

ダウンロード数 141

リリース時間 : 3/2/2022

モデル概要

BARTアーキテクチャに基づくシーケンスツーシーケンスモデルで、PubMedの医学文献要約生成タスクに特化して微調整されており、医学研究文書から簡潔な要約を生成することができます。

医学分野の最適化

PubMedの医学文献データに特化して微調整されており、医学テキスト要約タスクで汎用モデルよりも優れた性能を発揮します。

固定長出力

生成される要約の長さは20トークンに固定されており、標準化された要約出力のニーズに適しています。

効率的なトレーニング

混合精度トレーニングと線形学習率スケジューリングを採用し、5エポック以内で最適化を完了します。

医学テキスト要約生成

シーケンスツーシーケンス変換

英文テキスト処理

医学研究

医学文献の自動要約

PubMed上の医学研究論文に対して簡潔な要約を生成します。

テストセットでRouge1スコア9.3963を達成しました。

研究の迅速な閲覧

研究者が論文の核心内容を迅速に把握するのを支援します。

学習損失	エポック	ステップ	検証損失	Rouge1	Rouge2	Rougel	Rougelsum	生成長
2.3706	1.0	4000	2.1245	9.1644	3.8264	8.2223	8.718	20.0
2.2246	2.0	8000	2.0811	9.023	3.7716	8.1453	8.5998	20.0
2.1034	3.0	12000	2.0469	9.4412	4.0783	8.4949	8.9977	20.0
2.0137	4.0	16000	2.0390	9.2261	3.9307	8.3154	8.7937	20.0
1.9288	5.0	20000	2.0277	9.3963	4.0473	8.4526	8.9659	20.0

プロパティ	詳細
モデルタイプ	このモデルは、pub_med_summarization_datasetデータセットでファインチューニングされたfacebook/bart-baseのバージョンです。
学習データ	pub_med_summarization_dataset