Scinertopic

🚀 基於SciBERT的科學術語命名實體識別模型

本項目是一個基於allenai/scibert_scivocab_cased的命名實體識別（NER）模型。通過使用 SciERC 數據集 進行微調，該模型能夠精準識別科學文本中的各類術語，為科學信息提取和分析提供有力支持。

🚀 快速開始

你可以點擊下面的鏈接在 Google Colab 中體驗該模型：

✨ 主要特性

• 強大的識別能力：能夠識別多種科學術語，包括任務、方法、評估指標、材料等。
• 基於預訓練模型：使用 allenai/scibert_scivocab_cased 作為基礎模型，經過微調後更適合科學文本處理。
• 可視化展示：提供模型混淆矩陣和相關圖片，幫助用戶更好地理解模型性能。

📦 安裝指南

本項目未提供具體安裝步驟，你可以參考以下使用示例在 Python 環境中使用該模型。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForTokenClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("RJuro/SciNERTopic")
model_trf = AutoModelForTokenClassification.from_pretrained("RJuro/SciNERTopic")

nlp = pipeline("ner", model=model_trf, tokenizer=tokenizer, aggregation_strategy='average')

📚 詳細文檔

識別的科學術語類別

• 任務：應用場景、待解決的問題、待構建的系統。例如信息提取、機器閱讀系統、圖像分割等。
• 方法：使用的方法、模型、系統，或工具、系統組件、框架。例如語言模型、CORENLP、詞性標註器、核方法等。
• 評估指標：用於衡量系統/方法質量的指標、度量或實體。例如 F1、BLEU、精確率、召回率、ROC 曲線、平均倒數排名、均方誤差、魯棒性、時間複雜度等。
• 材料：數據、數據集、資源、語料庫、知識庫。例如圖像數據、語音數據、立體圖像、雙語詞典、釋義問題、CoNLL、Panntreebank、WordNet、維基百科等。
• 其他科學術語：屬於科學術語但不屬於上述類別的短語。例如物理或幾何約束、定性先驗知識、語篇結構、句法規則、語篇結構、樹、節點、樹核、特徵、噪聲、標準等。
• 通用術語：可能指代實體但本身不具信息性的通用術語或代詞，常作為連接詞使用。例如模型、方法、先驗知識、它們、它等。

訓練參數

• 學習率：1e-05
• 訓練輪數：10

性能指標

• 評估損失：0.401
• 精確率：0.577
• 召回率：0.632
• F1 值：0.603

Colab 體驗

你可以在 Colab 中體驗該模型在 NER 增強主題建模中的應用，靈感來源於 BERTopic。

📄 許可證

本項目採用 MIT 許可證。

📖 引用信息

如果你使用了本模型，請引用以下信息：

@misc {roman_jurowetzki_2022,
	author       = { {Roman Jurowetzki, Hamid Bekamiri} },
	title        = { SciNERTopic - NER enhanced transformer-based topic modelling for scientific text },
	year         = 2022,
	url          = { https://huggingface.co/RJuro/SciNERTopic },
	doi          = { 10.57967/hf/0095 },
	publisher    = { Hugging Face }
}