T5 Small Finetuned Pubmed

🚀 t5-small-finetuned-pubmed

このモデルは、t5-small をトランケートされた PubMed Summarization データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 2.7252
• Rouge1: 19.4457
• Rouge2: 3.125
• Rougel: 18.3168
• Rougelsum: 18.5625

🚀 クイックスタート

このモデルは、PubMedの要約タスクに特化してファインチューニングされています。具体的な使用方法は、Hugging FaceのTransformersライブラリを使用して以下のように行うことができます。

✨ 主な機能

• PubMedの文章を要約することができます。
• Rougeスコアに基づいて、一定の要約品質を担保します。

📚 ドキュメント

モデルの説明

このモデルは、t5-small をPubMed要約データセットでファインチューニングしたものです。

想定される用途と制限事項

このモデルは、PubMedの文章の要約に特化しています。他のドメインの文章に対しては、性能が低下する可能性があります。

学習と評価データ

このモデルは、トランケートされた PubMed Summarization データセットを使用して学習されました。

学習手順

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 5.6e-05
• 学習バッチサイズ: 8
• 評価バッチサイズ: 8
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• エポック数: 8

学習結果

フレームワークのバージョン

• Transformers 4.25.1
• Pytorch 1.13.0
• Datasets 2.8.0
• Tokenizers 0.13.2

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。

🔍 医療事例

• テキスト: "患者Aは67歳の男性で、高血圧と肥満の病歴があります。2022年1月5日にファイザー社のCOVID - 19ワクチンの初回接種を受けました。ワクチン接種後、副作用の報告はなく、自宅に退院しました。しかし、2日後、胸痛、息切れ、咳を訴えて救急部に搬送されました。トロポニン値が上昇しており、主要診断として急性心筋梗塞（AMI）と診断されました。死因はAMIの合併症による心原性ショックとそれに続く多臓器不全と判定されました。二次診断には急性呼吸窮迫症候群（ARDS）と急性腎不全が含まれていました。症状には胸痛、息切れ、咳、低血圧が含まれていました。除外診断にはCOVID - 19感染と肺塞栓症が含まれていました。患者は高血圧、肥満、高脂血症の病歴がありました。家族歴に特筆すべきものはありませんでした。患者は血栓溶解療法と機械的換気で治療されましたが、残念ながら病状が進行し、2022年1月13日に亡くなりました。ファイザー社のCOVID - 19ワクチンは患者の病歴の一部として記録されていました。この症例はワクチン副作用報告システム（VAERS）に報告され、さらなる調査が行われます。"
• 事例タイトル: "医療事例"