Nel Mgenre Multilingual

🚀 impresso-project/nel-mgenre-multilingual模型卡

Impresso多語言命名實體鏈接（NEL） 模型基於 De Cao等人 提出的 mGENRE（多語言生成式實體檢索），這是一種基於 mBART 的用於實體消歧的序列到序列架構。它使用 約束生成 來輸出映射到維基數據/QID的實體名稱。

該模型針對歷史文本進行了調整，並在 HIPE - 2022數據集 上進行了微調，該數據集包含各種歷史文檔類型和語言。

📚 詳細文檔

模型描述

• 開發者：來自 Impresso團隊 的EPFL。該項目是一個跨學科項目，專注於跨語言、跨時間和跨模態的歷史媒體分析。由瑞士國家科學基金會（CRSII5_173719，CRSII5_213585）和盧森堡國家研究基金會（資助編號17498891）資助。
• 模型類型：基於mBART的序列到序列模型，使用約束束搜索進行命名實體鏈接
• 語言支持：多語言（100 + 種語言，針對法語、德語和英語進行了優化）
• 許可證：AGPL v3+
• 微調基礎模型：facebook/mgenre-wiki

模型架構

• 架構：基於mBART的序列到序列模型，使用約束束搜索

🔧 技術細節

訓練數據

該模型在以下數據集上進行訓練：

數據集別名	說明文檔	文檔類型	語言	適用場景	項目	許可證
ajmc	鏈接	古典註釋	德語、法語、英語	粗粒度命名實體識別、細粒度命名實體識別、實體鏈接	AjMC
hipe2020	鏈接	歷史報紙	德語、法語、英語	粗粒度命名實體識別、細粒度命名實體識別、實體鏈接	CLEF - HIPE - 2020
topres19th	鏈接	歷史報紙	英語	粗粒度命名實體識別、實體鏈接	Living with Machines
newseye	鏈接	歷史報紙	德語、芬蘭語、法語、瑞典語	粗粒度命名實體識別、細粒度命名實體識別、實體鏈接	NewsEye
sonar	鏈接	歷史報紙	德語	粗粒度命名實體識別、實體鏈接	SoNAR

💻 使用示例

基礎用法

from transformers import AutoTokenizer, pipeline

NEL_MODEL_NAME = "impresso-project/nel-mgenre-multilingual"
nel_tokenizer = AutoTokenizer.from_pretrained(NEL_MODEL_NAME)

nel_pipeline = pipeline("generic-nel", model=NEL_MODEL_NAME,
                        tokenizer=nel_tokenizer,
                        trust_remote_code=True,
                        device='cpu')

sentence = "Le 0ctobre 1894, [START] Dreyfvs [END] est arrêté à Paris, accusé d'espionnage pour l'Allemagne — un événement qui déch1ra la société fr4nçaise pendant des années."
print(nel_pipeline(sentence))

輸出格式

[
    {
        'surface': 'Dreyfvs', 
        'wkd_id': 'Q171826', 
        'wkpedia_pagename': 'Alfred Dreyfus', 
        'wkpedia_url': 'https://fr.wikipedia.org/wiki/Alfred_Dreyfus', 
        'type': 'UNK', 
        'confidence_nel': 99.98, 
        'lOffset': 24, 
        'rOffset': 33}]

實體類型為 UNK，因為模型未針對實體類型進行訓練。confidence_nel 分數表示模型對預測結果的置信度。

✨ 主要特性

• 可在嘈雜的OCR環境中進行實體消歧
• 能夠將歷史名稱鏈接到現代維基數據實體
• 有助於從歷史檔案中進行下游事件提取和傳記生成

⚠️ 侷限性

• 對分詞和格式錯誤的跨度敏感
• 對於非維基數據實體或高度模糊的上下文，準確性會下降
• 專注於歷史實體提及，在現代文本上的性能可能會有所不同

🌱 環境影響

• 硬件：微調時需1個A100（80GB）
• 訓練時間：約12小時
• 估計二氧化碳排放量：約2.3千克二氧化碳當量

📞 聯繫信息

• 網站：https://impresso-project.ch