Gebert Eng Gat

🚀 GEBERT模型

GEBERT是一個使用GAT圖編碼器進行預訓練的模型，可用於生物醫學領域的實體鏈接和嵌入任務。該模型在生物醫學概念圖和UMLS（2020AB版本）的概念名稱上進行預訓練，以提升生物醫學實體表示的效果。

🚀 快速開始

GEBERT模型已在CLEF 2023會議上發佈。你可以在github上獲取該模型的源代碼。

✨ 主要特性

• 預訓練數據：使用生物醫學概念圖和UMLS（2020AB版本）的概念名稱進行預訓練。
• 基礎模型：基於microsoft/BiomedNLP - PubMedBERT - base - uncased - abstract - fulltext。

📚 詳細文檔

引用信息

如果你使用了該模型，請引用以下論文：

@inproceedings{sakhovskiy2023gebert,
author="Sakhovskiy, Andrey
and Semenova, Natalia
and Kadurin, Artur
and Tutubalina, Elena",
title="Graph-Enriched Biomedical Entity Representation Transformer",
booktitle="Experimental IR Meets Multilinguality, Multimodality, and Interaction",
year="2023",
publisher="Springer Nature Switzerland",
address="Cham",
pages="109--120",
isbn="978-3-031-42448-9"
}

信息表格