Turkish Medical Question Answering

🚀 土耳其语医学问答模型

本模型专为土耳其语医学领域的问答任务而设计，基于预训练模型微调优化，能够从医学文本中精准提取答案，为医学专业人士和研究人员提供有力的信息支持。

🚀 快速开始

环境准备

确保你已经安装了 transformers 库。如果尚未安装，可以使用以下命令进行安装：

pip install transformers

代码示例

# 使用pipeline作为高级辅助工具
from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

# 示例 
## 定义上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定义问题
question = "Lateral radyografi hangi durumlar için gereklidir?"

print(pipe(question=question, context=context))

✨ 主要特性

• 领域适配：针对土耳其语医学领域的问答任务进行了微调优化，能够更好地处理医学专业文本。
• 精准提取：采用BERT架构，并添加了额外的Dropout正则化，有效防止过拟合，能够准确地从医学文本中提取答案。
• 指标优异：在测试评估集上取得了良好的成绩，包括较低的损失值、较高的精确匹配率和F1分数。

📦 安装指南

依赖安装

使用以下命令安装所需的依赖库：

pip install transformers datasets torch tokenizers

模型加载

在代码中使用 transformers 库加载模型：

from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

💻 使用示例

基础用法

# 使用pipeline作为高级辅助工具
from transformers import pipeline

pipe = pipeline("question-answering", model="kaixkhazaki/turkish-question-answering")

# 示例 
## 定义上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定义问题
question = "Lateral radyografi hangi durumlar için gereklidir?"

print(pipe(question=question, context=context))

高级用法

# 可以多次调用pipeline处理不同的问题和上下文
# 示例 
## 定义上下文
context = """
Kalça kırığından şüphe duyulan hastalarda öncelikle standart grafiler çekilmelidir. Bunlar ön arka pelvis grafisi ve etkilenen kalçanın ön arka ve yan grafileridir. 
Özellikle deplase olmayan kırıklarda sağlam taraf ile patolojik tarafın mukayese edilmesi önemlidir. Kırık kalçanın filmi, alt ekstremite hafif traksiyonda iken nötral pozisyonda, 
patella ışın düzlemine dikey halde çekilir. Trokanter majörün en az 10 cm distaline kadar görülmesi faydalı olacaktır. Ayrıca sağlam tarafın görülmesi ile osteoporoz ve hastanın 
normal boyun-cisim açısının tayininde önemlidir. Lateral radyografi posteriorda kırığın stabilitesini ve deplasman miktarını belirlemek için gereklidir. Lateral grafi çekimi acil 
olmamakla birlikte kırığın daha doğru değerlendirilmesi açısından önemlidir. Eğer hasta grafi masasında iken çekilemiyor ise, traksiyon masasına alındığında görülebilir. 
Nadiren de olsa tanı için tomografi çekilmesi gerekli olabilir. Bunun yanında kalça kırığı şüphesi yüksek olan, ancak direk grafide kırık tanısı konulamayan hastalara MR çekilerek 
tanı rahatlıkla konulabilir. Yine röntgende görünmeyen ancak kırık şüphesi yüksek olan hastalara 48-72 saat içerisinde yapılan sintigrafilerde duyarlılık % 100'dür.
"""

# 定义问题
question = "Trokanter majörün kaç cm distaline kadar görülmesi faydalıdır?"

print(pipe(question=question, context=context))

📚 详细文档

预期用途

• 医学问答：为土耳其语医学领域的问题提供答案。
• 信息提取：从土耳其语医学文本中提取相关信息。
• 专业支持：辅助医学专业人士和研究人员在医学文档中查找特定信息。

局限性

• 专业建议替代：本模型不能替代专业的医学建议。
• 数据偏差：模型可能反映医学训练数据中存在的偏差。
• 性能差异：在不同的医学专业和术语上，模型的性能可能会有所不同。
• 复杂问题处理：不适合回答需要推理或综合信息的复杂医学问题。
• 领域适用性：专门为医学领域训练，在通用领域问题上可能表现不佳。
• 术语覆盖：对于训练数据中未出现的高度技术性医学术语，模型的性能可能会受到影响。
• 问答类型：仅限于提取式问答（查找直接存在于文本中的答案）。

🔧 技术细节

训练超参数

模型架构修改

训练和评估数据

模型在土耳其语医学问答数据集上进行了训练：

@INPROCEEDINGS{10711128,
  author={İncidelen, Mert and Aydoğan, Murat},
  booktitle={2024 8th International Artificial Intelligence and Data Processing Symposium (IDAP)}, 
  title={Developing Question-Answering Models in Low-Resource Languages: A Case Study on Turkish Medical Texts Using Transformer-Based Approaches}, 
  year={2024},
  volume={},
  number={},
  pages={1-4},
  keywords={Training;Adaptation models;Natural languages;Focusing;Encyclopedias;Transformers;Data models;Internet;Online services;Text processing;Natural Language Processing;Medical Domain;BERTurk;Question-Answering},
  doi={10.1109/IDAP64064.2024.10711128}}

训练过程

预处理

• 最大序列长度：384
• 步长：128
• 问题和上下文对：使用 BertTokenizerFast 进行分词

评估策略

• 评估频率：每50步进行一次评估
• 最佳模型保存：基于F1分数保存最佳模型
• 评估指标：精确匹配率和F1分数

训练结果

框架版本

• Transformers 4.48.0.dev0
• Pytorch 2.4.1+cu121
• Datasets 3.1.0
• Tokenizers 0.21.0

📄 许可证

本模型采用MIT许可证。

📚 引用

@misc{turkish-medical-question-answering,
  author = {Fatih Demirci},
  title = {Turkish Medical Question Answering Model},
  year = {2024},
  publisher = {HuggingFace},
  journal = {HuggingFace Model Hub},
  howpublished = {\url{https://huggingface.co/kaixkhazaki/turkish-medical-question-answering}}
}