Scientific Challenges And Directions

🚀 科學挑戰與研究方向識別模型

本項目提供了一種全新的資源，旨在助力科學家和醫學專業人士從科學文獻中發掘挑戰與潛在研究方向。該資源聚焦於與新冠疫情及相關歷史研究有關的廣泛文獻語料庫。從宏觀層面來看，“挑戰”和“研究方向”的定義如下：

• 挑戰：提及問題、困難、缺陷、侷限、失敗、缺乏清晰度或知識空白的句子。

• 研究方向：提及進一步研究的建議或需求、假設、推測、表明某一問題值得探索的跡象或提示的句子。

• 本模型在我們的論文 A Search Engine for Discovery of Scientific Challenges and Directions 中有詳細描述（儘管自論文發表以來我們對基礎設施進行了升級，結果會有細微差異）。

• 我們的數據集可在 此處 找到。

• 如果您在項目中使用了我們的數據集或模型，請引用我們的論文。具體 BibTeX 格式見 引用信息。

• 如有任何問題，歡迎 聯繫我們。

• 此外，您還可以查看 我們的搜索引擎，這是一個實際應用示例。

🚀 快速開始

本模型可用於在科學文獻中識別挑戰和潛在研究方向，適用於新冠疫情及相關歷史研究的廣泛語料庫。

✨ 主要特性

• 多標籤文本分類：能夠對文本進行多標籤分類，識別其中的挑戰和研究方向。
• 基於專業語料訓練：在與新冠疫情及相關歷史研究有關的廣泛文獻語料庫上進行訓練。

📦 安裝指南

文檔未提及安裝步驟，如需使用可參考相關代碼庫或聯繫作者。

💻 使用示例

文檔未提供代碼示例，可參考項目 倉庫 中的 Inference_Notebook.ipynb 進行推理。

📚 詳細文檔

模型描述

本模型是 PubMedBERT 在 scientific-challenges-and-directions-dataset 上的微調版本，用於多標籤文本分類。

訓練和評估數據

科學挑戰與研究方向模型基於一個包含 2894 個句子及其上下文的數據集進行訓練。這些句子來自 CORD - 19 語料庫中的 1786 篇全文論文，並由具有生物醫學和生物自然語言處理背景的專家標註員進行挑戰和方向分類標註。有關數據的訓練/測試/分割的詳細信息，請參閱我們 論文 的第 3.1 節。

示例筆記本

我們在 倉庫 中提供了一個使用該模型進行推理的示例筆記本，可查看 Inference_Notebook.ipynb，同時也包含了訓練筆記本。

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：8
• 評估批次大小：4
• 隨機種子：4
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 學習率調度器熱身步數：500
• 訓練輪數：30

訓練結果

該模型在測試集上取得了以下結果：

• 挑戰的精確率：0.768719
• 挑戰的召回率：0.780405
• 挑戰的 F1 值：0.774518
• 研究方向的精確率：0.758112
• 研究方向的召回率：0.774096
• 研究方向的 F1 值：0.766021
• 兩個標籤的微觀平均精確率：0.764894
• 兩個標籤的微觀平均召回率：0.778139
• 兩個標籤的微觀平均 F1 值：0.771459

框架版本

• Transformers 4.15.0
• Pytorch 1.10.0 + cu111
• Datasets 1.17.0
• Tokenizers 0.10.3

📄 許可證

文檔未提及許可證信息。

🔧 技術細節

本模型基於 PubMedBERT 進行微調，在特定的科學挑戰與研究方向數據集上進行訓練，通過多標籤文本分類的方式識別文本中的挑戰和研究方向。訓練過程中使用了一系列超參數和優化器，以達到較好的性能。

📄 引用信息

如果使用我們的數據集和模型，請引用以下文獻：

@misc{lahav2021search,
      title={A Search Engine for Discovery of Scientific Challenges and Directions}, 
      author={Dan Lahav and Jon Saad Falcon and Bailey Kuehl and Sophie Johnson and Sravanthi Parasa and Noam Shomron and Duen Horng Chau and Diyi Yang and Eric Horvitz and Daniel S. Weld and Tom Hope},
      year={2021},
      eprint={2108.13751},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

📧 聯繫我們

如有任何問題，請隨時與我們聯繫。

郵箱：lahav@mail.tau.ac.il，tomh@allenai.org。