Bigbird Base Mimic Mortality

🚀 死亡率予測のためのBigBird

GoogleのベースとなるBigBirdモデルを起点として、MIMIC入院記録における二値的な死亡率予測に関してファインチューニングを行いました。このモデルは、入院時に入手可能なテキストに基づき、特定の患者が与えられたICU滞在期間内に死亡するかどうかを予測しようとします。このタスクのためのデータは、このプロジェクトで説明されている通り、模擬入院記録（退院サマリーから取得）を使用して準備されました。このモデルは、ICML 2021のIMLHに対する今後の投稿で使用されます。

🚀 クイックスタート

本モデルは、GoogleのBigBirdモデルをベースに、MIMICの入院記録を用いて死亡率予測に特化したファインチューニングを行っています。具体的には、入院時のテキストデータを入力とし、患者がICU滞在中に死亡するかどうかを予測することができます。

📚 ドキュメント

参考文献

• Van Aken, et al., 2021: Clinical Outcome Prediction from Admission Notes using Self-Supervised Knowledge Integration
• Zaheer, et al., 2020: Big Bird: Transformers for Longer Sequences

📄 ライセンス

このモデルは、bigscience-openrail-mライセンスの下で提供されています。