Wikineural Multilingual Ner

🚀 WikiNEuRal：用於多語言命名實體識別的神經與基於知識的銀數據聯合創建

WikiNEuRal是一個用於多語言命名實體識別（NER）的模型，它結合了神經方法和基於知識的方法來創建高質量的訓練語料庫。該模型在WikiNEuRal數據集上微調了多語言語言模型（mBERT），支持9種語言，為多語言NER任務提供了有效的解決方案。

🚀 快速開始

本項目是EMNLP 2021論文 WikiNEuRal: Combined Neural and Knowledge-based Silver Data Creation for Multilingual NER 的模型卡片。我們在 WikiNEuRal數據集 上對多語言語言模型（mBERT）進行了3個輪次的微調，用於命名實體識別（NER）任務。最終得到的多語言NER模型支持WikiNEuRal涵蓋的9種語言（德語、英語、西班牙語、法語、意大利語、荷蘭語、波蘭語、葡萄牙語、俄語），並且是在這9種語言上聯合訓練的。

如果您使用了該模型，請在論文中引用此工作：

@inproceedings{tedeschi-etal-2021-wikineural-combined,
    title = "{W}iki{NE}u{R}al: {C}ombined Neural and Knowledge-based Silver Data Creation for Multilingual {NER}",
    author = "Tedeschi, Simone  and
      Maiorca, Valentino  and
      Campolungo, Niccol{\`o}  and
      Cecconi, Francesco  and
      Navigli, Roberto",
    booktitle = "Findings of the Association for Computational Linguistics: EMNLP 2021",
    month = nov,
    year = "2021",
    address = "Punta Cana, Dominican Republic",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2021.findings-emnlp.215",
    pages = "2521--2533",
    abstract = "Multilingual Named Entity Recognition (NER) is a key intermediate task which is needed in many areas of NLP. In this paper, we address the well-known issue of data scarcity in NER, especially relevant when moving to a multilingual scenario, and go beyond current approaches to the creation of multilingual silver data for the task. We exploit the texts of Wikipedia and introduce a new methodology based on the effective combination of knowledge-based approaches and neural models, together with a novel domain adaptation technique, to produce high-quality training corpora for NER. We evaluate our datasets extensively on standard benchmarks for NER, yielding substantial improvements up to 6 span-based F1-score points over previous state-of-the-art systems for data creation.",
}

論文的原始倉庫可在 https://github.com/Babelscape/wikineural 找到。

✨ 主要特性

• 多語言支持：支持德語、英語、西班牙語、法語、意大利語、荷蘭語、波蘭語、葡萄牙語、俄語9種語言。
• 聯合訓練：在9種語言上聯合訓練，提高了模型的多語言處理能力。
• 數據創新：結合神經方法和基於知識的方法創建訓練語料庫，解決了多語言NER數據稀缺的問題。

📦 安裝指南

文檔未提及安裝步驟，故跳過該章節。

💻 使用示例

基礎用法

您可以使用Transformers的 pipeline 來使用該模型進行命名實體識別。

from transformers import AutoTokenizer, AutoModelForTokenClassification
from transformers import pipeline

tokenizer = AutoTokenizer.from_pretrained("Babelscape/wikineural-multilingual-ner")
model = AutoModelForTokenClassification.from_pretrained("Babelscape/wikineural-multilingual-ner")

nlp = pipeline("ner", model=model, tokenizer=tokenizer, grouped_entities=True)
example = "My name is Wolfgang and I live in Berlin"

ner_results = nlp(example)
print(ner_results)

📚 詳細文檔

模型信息

侷限性和偏差

該模型在WikiNEuRal數據集上進行訓練，這是一個從Wikipedia自動衍生的最先進的多語言NER數據集。因此，它可能無法很好地泛化到所有文本類型（例如新聞）。另一方面，僅在新聞文章上訓練的模型（例如僅在CoNLL03上訓練）在百科文章上的得分要低得多。為了獲得更強大的系統，我們建議您將WikiNEuRal與其他數據集（例如WikiNEuRal + CoNLL）結合起來訓練系統。

許可信息

本倉庫的內容僅可用於非商業研究目的，遵循 知識共享署名 - 非商業性使用 - 相同方式共享 4.0 國際許可協議（CC BY - NC - SA 4.0）。數據集內容和模型的版權歸原始版權所有者所有。