Nel Mgenre Multilingual

🚀 impresso-project/nel-mgenre-multilingual模型卡

Impresso多语言命名实体链接（NEL） 模型基于 De Cao等人 提出的 mGENRE（多语言生成式实体检索），这是一种基于 mBART 的用于实体消歧的序列到序列架构。它使用 约束生成 来输出映射到维基数据/QID的实体名称。

该模型针对历史文本进行了调整，并在 HIPE - 2022数据集 上进行了微调，该数据集包含各种历史文档类型和语言。

📚 详细文档

模型描述

• 开发者：来自 Impresso团队 的EPFL。该项目是一个跨学科项目，专注于跨语言、跨时间和跨模态的历史媒体分析。由瑞士国家科学基金会（CRSII5_173719，CRSII5_213585）和卢森堡国家研究基金会（资助编号17498891）资助。
• 模型类型：基于mBART的序列到序列模型，使用约束束搜索进行命名实体链接
• 语言支持：多语言（100 + 种语言，针对法语、德语和英语进行了优化）
• 许可证：AGPL v3+
• 微调基础模型：facebook/mgenre-wiki

模型架构

• 架构：基于mBART的序列到序列模型，使用约束束搜索

🔧 技术细节

训练数据

该模型在以下数据集上进行训练：

数据集别名	说明文档	文档类型	语言	适用场景	项目	许可证
ajmc	链接	古典注释	德语、法语、英语	粗粒度命名实体识别、细粒度命名实体识别、实体链接	AjMC
hipe2020	链接	历史报纸	德语、法语、英语	粗粒度命名实体识别、细粒度命名实体识别、实体链接	CLEF - HIPE - 2020
topres19th	链接	历史报纸	英语	粗粒度命名实体识别、实体链接	Living with Machines
newseye	链接	历史报纸	德语、芬兰语、法语、瑞典语	粗粒度命名实体识别、细粒度命名实体识别、实体链接	NewsEye
sonar	链接	历史报纸	德语	粗粒度命名实体识别、实体链接	SoNAR

💻 使用示例

基础用法

from transformers import AutoTokenizer, pipeline

NEL_MODEL_NAME = "impresso-project/nel-mgenre-multilingual"
nel_tokenizer = AutoTokenizer.from_pretrained(NEL_MODEL_NAME)

nel_pipeline = pipeline("generic-nel", model=NEL_MODEL_NAME,
                        tokenizer=nel_tokenizer,
                        trust_remote_code=True,
                        device='cpu')

sentence = "Le 0ctobre 1894, [START] Dreyfvs [END] est arrêté à Paris, accusé d'espionnage pour l'Allemagne — un événement qui déch1ra la société fr4nçaise pendant des années."
print(nel_pipeline(sentence))

输出格式

[
    {
        'surface': 'Dreyfvs', 
        'wkd_id': 'Q171826', 
        'wkpedia_pagename': 'Alfred Dreyfus', 
        'wkpedia_url': 'https://fr.wikipedia.org/wiki/Alfred_Dreyfus', 
        'type': 'UNK', 
        'confidence_nel': 99.98, 
        'lOffset': 24, 
        'rOffset': 33}]

实体类型为 UNK，因为模型未针对实体类型进行训练。confidence_nel 分数表示模型对预测结果的置信度。

✨ 主要特性

• 可在嘈杂的OCR环境中进行实体消歧
• 能够将历史名称链接到现代维基数据实体
• 有助于从历史档案中进行下游事件提取和传记生成

⚠️ 局限性

• 对分词和格式错误的跨度敏感
• 对于非维基数据实体或高度模糊的上下文，准确性会下降
• 专注于历史实体提及，在现代文本上的性能可能会有所不同

🌱 环境影响

• 硬件：微调时需1个A100（80GB）
• 训练时间：约12小时
• 估计二氧化碳排放量：约2.3千克二氧化碳当量

📞 联系信息

• 网站：https://impresso-project.ch