Clinical BigBird
C
Clinical BigBird
由yikuan8開發
基於BigBird架構、通過MIMIC-III臨床記錄進一步預訓練的醫學知識增強模型,支持4096個標記的輸入長度,在多個醫學NLP任務上超越ClinicalBERT。
下載量 2,320
發布時間 : 4/1/2022
模型概述
臨床版BigBird是一個針對醫學領域優化的自然語言處理模型,通過臨床記錄預訓練增強醫學知識理解能力,適用於多種醫學文本處理任務。
模型特點
長文本處理能力
支持高達4096個標記的輸入長度,適合處理長臨床記錄
醫學知識增強
通過MIMIC-III臨床記錄進一步預訓練,增強醫學領域理解能力
多任務性能優越
在10個基準數據集上全面超越ClinicalBERT模型
高效訓練
採用FP16精度並行訓練,在6塊32GB Tesla V100 GPU上完成
模型能力
醫學文本理解
臨床記錄分析
醫學命名實體識別
醫學問答系統
醫學文本分類
醫學自然語言推理
使用案例
臨床信息處理
電子病歷分析
從長臨床記錄中提取關鍵醫療信息
高效處理長達4096標記的臨床文本
醫學實體識別
識別病歷中的疾病、藥物等醫療實體
性能超越ClinicalBERT
醫學研究支持
醫學文獻分析
處理和分析長篇幅醫學研究文獻
精選推薦AI模型
Llama 3 Typhoon V1.5x 8b Instruct
專為泰語設計的80億參數指令模型,性能媲美GPT-3.5-turbo,優化了應用場景、檢索增強生成、受限生成和推理任務
大型語言模型
Transformers 支持多種語言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一個基於SODA數據集訓練的超小型對話模型,專為邊緣設備推理設計,體積僅為Cosmo-3B模型的2%左右。
對話系統
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基於RoBERTa架構的中文抽取式問答模型,適用於從給定文本中提取答案的任務。
問答系統 中文
R
uer
2,694
98