Turkish Medical Question Answering

🚀 土耳其語醫學問答模型

本模型專為土耳其語醫學領域的問答任務而設計，基於預訓練模型微調優化，能夠從醫學文本中精準提取答案，為醫學專業人士和研究人員提供有力的信息支持。

🚀 快速開始

環境準備

確保你已經安裝了 transformers 庫。如果尚未安裝，可以使用以下命令進行安裝：

pip install transformers

代碼示例

# 使用pipeline作為高級輔助工具
from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

# 示例 
## 定義上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定義問題
question = "Lateral radyografi hangi durumlar için gereklidir?"

print(pipe(question=question, context=context))

✨ 主要特性

• 領域適配：針對土耳其語醫學領域的問答任務進行了微調優化，能夠更好地處理醫學專業文本。
• 精準提取：採用BERT架構，並添加了額外的Dropout正則化，有效防止過擬合，能夠準確地從醫學文本中提取答案。
• 指標優異：在測試評估集上取得了良好的成績，包括較低的損失值、較高的精確匹配率和F1分數。

📦 安裝指南

依賴安裝

使用以下命令安裝所需的依賴庫：

pip install transformers datasets torch tokenizers

模型加載

在代碼中使用 transformers 庫加載模型：

from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

💻 使用示例

基礎用法

# 使用pipeline作為高級輔助工具
from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

# 示例 
## 定義上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定義問題
question = "Lateral radyografi hangi durumlar için gereklidir?"

print(pipe(question=question, context=context))

高級用法

# 可以多次調用pipeline處理不同的問題和上下文
# 示例 
## 定義上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定義問題
question = "Trokanter majörün kaç cm distaline kadar görülmesi faydalıdır?"

print(pipe(question=question, context=context))

📚 詳細文檔

預期用途

• 醫學問答：為土耳其語醫學領域的問題提供答案。
• 信息提取：從土耳其語醫學文本中提取相關信息。
• 專業支持：輔助醫學專業人士和研究人員在醫學文檔中查找特定信息。

侷限性

• 專業建議替代：本模型不能替代專業的醫學建議。
• 數據偏差：模型可能反映醫學訓練數據中存在的偏差。
• 性能差異：在不同的醫學專業和術語上，模型的性能可能會有所不同。
• 複雜問題處理：不適合回答需要推理或綜合信息的複雜醫學問題。
• 領域適用性：專門為醫學領域訓練，在通用領域問題上可能表現不佳。
• 術語覆蓋：對於訓練數據中未出現的高度技術性醫學術語，模型的性能可能會受到影響。
• 問答類型：僅限於提取式問答（查找直接存在於文本中的答案）。

🔧 技術細節

訓練超參數

模型架構修改

訓練和評估數據

模型在土耳其語醫學問答數據集上進行了訓練：

@INPROCEEDINGS{10711128,
  author={İncidelen, Mert and Aydoğan, Murat},
  booktitle={2024 8th International Artificial Intelligence and Data Processing Symposium (IDAP)}, 
  title={Developing Question-Answering Models in Low-Resource Languages: A Case Study on Turkish Medical Texts Using Transformer-Based Approaches}, 
  year={2024},
  volume={},
  number={},
  pages={1-4},
  keywords={Training;Adaptation models;Natural languages;Focusing;Encyclopedias;Transformers;Data models;Internet;Online services;Text processing;Natural Language Processing;Medical Domain;BERTurk;Question-Answering},
  doi={10.1109/IDAP64064.2024.10711128}}

訓練過程

預處理

• 最大序列長度：384
• 步長：128
• 問題和上下文對：使用 BertTokenizerFast 進行分詞

評估策略

• 評估頻率：每50步進行一次評估
• 最佳模型保存：基於F1分數保存最佳模型
• 評估指標：精確匹配率和F1分數

訓練結果

框架版本

• Transformers 4.48.0.dev0
• Pytorch 2.4.1+cu121
• Datasets 3.1.0
• Tokenizers 0.21.0

📄 許可證

本模型採用MIT許可證。

📚 引用

@misc{turkish-medical-question-answering,
  author = {Fatih Demirci},
  title = {Turkish Medical Question Answering Model},
  year = {2024},
  publisher = {HuggingFace},
  journal = {HuggingFace Model Hub},
  howpublished = {\url{https://huggingface.co/kaixkhazaki/turkish-medical-question-answering}}
}