Hubert Ecg Small

🚀 HuBERT-ECG：適用於廣泛且可擴展心臟應用的自監督基礎模型

HuBERT-ECG 是一個自監督的心電圖（ECG）基礎模型，在包含 164 種心血管疾病的 910 萬份 12 導聯心電圖的大型多樣數據集上進行預訓練。通過添加輸出層，它可針對多種下游任務進行微調，在不同場景下都展現出優異性能。

🚀 快速開始

原代碼可在 https://github.com/Edoar-do/HuBERT-ECG 查看。

✨ 主要特性

• 廣泛適用性：通過簡單添加輸出層，HuBERT-ECG 可以針對從疾病診斷到未來心血管事件預測等各種下游任務進行微調。
• 高性能表現：在不同的現實場景中，HuBERT-ECG 的曲線下面積（AUROC）從低數據設置下的 84.3% 到大規模設置下的 99% 不等。當訓練用於同時檢測 164 種重疊病症時，該模型對 140 種和 94 種疾病的 AUROC 分別達到 90% 和 95% 以上。此外，它在兩年隨訪期內預測死亡事件的 AUROC 達到 93.4%。

📦 安裝指南

暫未提供相關安裝步驟。

💻 使用示例

基礎用法

from transformers import AutoModel
size = 'small' # any size from small, base, large
hubert_ecg = AutoModel.from_pretrained(f"Edoardo-BS/hubert-ecg-{size}", trust_remote_code=True)

📚 詳細文檔

摘要

深度學習模型在心電圖（ECG）分析中表現出顯著性能，但由於心電圖數據集的可用性和規模有限，其成功受到限制，導致這些系統更像是特定任務的專家，而非通用的多面手。在這項工作中，我們推出了 HuBERT-ECG，這是一個以自監督方式在包含 164 種心血管疾病的 910 萬份 12 導聯心電圖的大型多樣數據集上進行預訓練的心電圖基礎模型。通過簡單添加一個輸出層，HuBERT-ECG 可以針對從疾病診斷到未來心血管事件預測等各種下游任務進行微調。在不同的現實場景中，HuBERT-ECG 的曲線下面積（AUROC）從低數據設置下的 84.3% 到大規模設置下的 99% 不等。當訓練用於同時檢測 164 種重疊病症時，我們的模型對 140 種和 94 種疾病的 AUROC 分別達到 90% 和 95% 以上。HuBERT-ECG 還能以 93.4% 的 AUROC 預測兩年隨訪期內的死亡事件。我們發佈了模型和代碼。

模型

此倉庫包含自監督預訓練的 hubert-ecg-small 模型。

🔧 技術細節

暫未提供相關技術細節。

📄 許可證

本項目採用 CC BY - NC 4.0 許可證。

📚 引用

如果您使用了我們的模型或認為我們的工作有幫助，請考慮引用我們：

doi: https://doi.org/10.1101/2024.11.14.24317328

⚠️ 重要提示

不要忘記對您的數據進行預處理！閱讀論文以瞭解更多相關信息。