Ernie Health Zh

🚀 ernie-health-zh

ERNIE-health是一箇中文生物醫學語言模型，它通過對經過去標識處理的在線醫患對話、電子病歷和教科書等領域內文本進行預訓練而得。該模型在生物醫學相關的自然語言處理任務中具有重要價值，能助力醫療信息的智能分析與處理。

🚀 快速開始

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-health-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-health-zh")

✨ 主要特性

ERNIE-health基於特定領域的文本進行預訓練，能更好地理解生物醫學領域的專業術語和語義，在生物醫學自然語言處理任務中表現出色。

📦 安裝指南

文檔未提及具體安裝步驟，可參考相關庫的官方文檔進行安裝，如transformers庫。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("nghuyong/ernie-health-zh")
model = AutoModel.from_pretrained("nghuyong/ernie-health-zh")

📚 詳細文檔

更多詳細信息可參考：

• https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/ernie-health/
• https://arxiv.org/pdf/2110.07244.pdf

🔧 技術細節

此發佈的PyTorch模型是從官方發佈的PaddlePaddle ERNIE模型轉換而來，並且進行了一系列實驗來驗證轉換的準確性。

• 官方PaddlePaddle ERNIE倉庫：https://github.com/PaddlePaddle/PaddleNLP/blob/develop/model_zoo/ernie-health/
• PyTorch轉換倉庫：https://github.com/nghuyong/ERNIE-Pytorch

模型信息

📄 許可證

文檔未提及許可證信息。

📚 引用

@article{wang2021building,
  title={Building Chinese Biomedical Language Models via Multi-Level Text Discrimination},
  author={Wang, Quan and Dai, Songtai and Xu, Benfeng and Lyu, Yajuan and Zhu, Yong and Wu, Hua and Wang, Haifeng},
  journal={arXiv preprint arXiv:2110.07244},
  year={2021}
}