Hubert Ecg Small

🚀 HuBERT - ECG: 幅広く拡張可能な心臓アプリケーション向けの自己教師付き基礎モデル

このプロジェクトは、心電図（ECG）データを用いた深層学習モデルにおいて、データセットの制限による汎用性の問題を解決します。HuBERT - ECGは、大規模かつ多様なECGデータセットで自己教師付き学習を行い、様々な下流タスクに適用可能な強力な基礎モデルです。

オリジナルコードはこちらにあります。

ライセンス: CC BY - NC 4.0

🚀 クイックスタート

このプロジェクトでは、HuBERT - ECGという自己教師付き学習による心電図分析用の基礎モデルを提供しています。このモデルは、大規模で多様な心電図データセットを用いて事前学習されており、様々な下流タスクに容易に適用できます。

✨ 主な機能

• 自己教師付き学習により、910万件の12誘導心電図データセットで事前学習された基礎モデル。
• 出力層を追加するだけで、疾患の診断から将来の心血管イベントの予測まで、幅広い下流タスクに微調整可能。
• 様々な現実世界のシナリオで高い性能を発揮し、低データ設定でも84.3％、大規模設定では99％のAUROCを達成。
• 164の重複する病態を同時に検出するように訓練すると、140と94の疾患についてそれぞれ90％と95％以上のAUROCを達成。
• 2年間のフォローアップでの死亡イベントを93.4％のAUROCで予測。

📦 インストール

本READMEにはインストール手順が記載されていないため、このセクションをスキップします。

💻 使用例

基本的な使用法

from transformers import AutoModel
size = 'small' # any size from small, base, large
hubert_ecg = AutoModel.from_pretrained(f"Edoardo-BS/hubert-ecg-{size}", trust_remote_code=True)

高度な使用法

高度な使用法に関する具体的なコード例はREADMEに記載されていないため、このセクションをスキップします。

📚 ドキュメント

概要

深層学習モデルは心電図（ECG）分析において顕著な性能を示していますが、ECGデータセットの可用性とサイズの制限により、その成功は制約されています。この結果、システムは汎用的なモデルではなく、特定のタスクに特化したものになっています。この研究では、910万件の12誘導心電図からなる大規模かつ多様なデータセットで自己教師付き学習を行った基礎ECGモデルであるHuBERT - ECGを導入します。このデータセットには164の心血管病態が含まれています。HuBERT - ECGは、出力層を追加するだけで、疾患の診断から将来の心血管イベントの予測まで、幅広い下流タスクに微調整することができます。様々な現実世界のシナリオで、HuBERT - ECGは低データ設定で84.3％から大規模設定で99％のAUROCを達成します。164の重複する病態を同時に検出するように訓練すると、モデルはそれぞれ140と94の疾患について90％と95％以上のAUROCを達成します。また、HuBERT - ECGは2年間のフォローアップでの死亡イベントを93.4％のAUROCで予測します。モデルとコードを公開しています。

モデル

このリポジトリには、自己教師付き学習による事前学習済みのhubert - ecg - smallモデルが含まれています。

🔧 技術詳細

本READMEには技術的な詳細が十分に記載されていないため、このセクションをスキップします。

📄 ライセンス

このプロジェクトはCC BY - NC 4.0ライセンスの下で公開されています。

⚠️ 重要提示

データを事前処理することを忘れないでください！詳細については論文を読んでください。

📚 引用

もしあなたが当社のモデルを使用したり、当社の研究が役立つと感じた場合は、以下を引用していただけると幸いです。

doi: https://doi.org/10.1101/2024.11.14.24317328