Nermemberta 3entities

🚀 NERmemBERTa-3entities

NERmemBERTa-3entities 是一个基于 CamemBERTa v2 base 微调的模型，专门用于法语的命名实体识别（NER）任务。它在五个法语 NER 数据集上进行训练，以识别三种实体类型（LOC、PER、ORG）。

🚀 快速开始

代码示例

from transformers import pipeline

ner = pipeline('token-classification', model='CATIE-AQ/NERmemberta-base-3entities', tokenizer='CATIE-AQ/NERmemberta-base-3entities', aggregation_strategy="simple")

result = ner(
"Le dévoilement du logo officiel des JO s'est déroulé le 21 octobre 2019 au Grand Rex. Ce nouvel emblème et cette nouvelle typographie ont été conçus par le designer Sylvain Boyer avec les agences Royalties & Ecobranding. Rond, il rassemble trois symboles : une médaille d'or, la flamme olympique et Marianne, symbolisée par un visage de femme mais privée de son bonnet phrygien caractéristique. La typographie dessinée fait référence à l'Art déco, mouvement artistique des années 1920, décennie pendant laquelle ont eu lieu pour la dernière fois les Jeux olympiques à Paris en 1924. Pour la première fois, ce logo sera unique pour les Jeux olympiques et les Jeux paralympiques."
)

print(result)

通过 Space 试用

可以通过 这里 的 Space 来测试该模型。

✨ 主要特性

• 多数据集训练：在五个法语 NER 数据集上进行训练，数据总量超过 420,264 行。
• 高准确率：在多个评估指标上表现出色，如 F1 分数。
• 支持三种实体类型：能够识别 LOC（地点）、PER（人物）和 ORG（组织）三种实体类型。

📚 详细文档

模型描述

我们推出的 NERmemBERTa-3entities 是在 CamemBERTa v2 base 基础上进行微调的，用于法语的命名实体识别任务。它在五个法语 NER 数据集上进行训练，针对三种实体（LOC、PER、ORG）。所有这些数据集被合并并清理成一个单一的数据集，我们称之为 frenchNER_3entities。这总共包含超过 420,264 行数据，其中 346,071 行用于训练，32,951 行用于验证，41,242 行用于测试。我们的方法在一篇博客文章中有详细描述，可查看 英文版本 或 法文版本。

评估结果

frenchNER_3entities

由于空间限制，我们仅展示不同模型的 F1 分数。完整结果可在表格下方查看。

multiconer

由于空间限制，我们仅展示不同模型的 F1 分数。完整结果可在表格下方查看。

multinerd

由于空间限制，我们仅展示不同模型的 F1 分数。完整结果可在表格下方查看。

wikiner

由于空间限制，我们仅展示不同模型的 F1 分数。完整结果可在表格下方查看。

wikiann

由于空间限制，我们仅展示不同模型的 F1 分数。完整结果可在表格下方查看。

🔧 技术细节

环境影响

碳排放量使用 Lacoste 等人（2019） 提出的 机器学习影响计算器 进行估算。硬件、运行时间、云服务提供商和计算区域用于估算碳影响。

• 硬件类型：A100 PCIe 40/80GB
• 使用时长：2 小时 51 分钟
• 云服务提供商：私有基础设施
• 碳效率（kg/kWh）：0.047（根据 electricitymaps 估算 2024 年 11 月 20 日的数据）
• 碳排放 （功耗 x 时间 x 基于电网位置产生的碳量）：0.0335 kg 等效 CO2

📄 许可证

本项目采用 MIT 许可证。

📚 引用

NERmemBERTa-3entities

@misc {NERmemberta2024,
    author       = { {BOURDOIS, Loïck} },  
    organization = { {Centre Aquitain des Technologies de l'Information et Electroniques} },  
    title        = { NERmemberta-3entities (Revision 989f2ee) },
    year         = 2024,
    url          = { https://huggingface.co/CATIE-AQ/NERmemberta-3entities },
    doi          = { 10.57967/hf/3640 },
    publisher    = { Hugging Face }
}

NERmemBERT

@misc {NERmembert2024,
    author       = { {BOURDOIS, Loïck} },  
    organization = { {Centre Aquitain des Technologies de l'Information et Electroniques} },  
    title        = { NERmembert-base-3entities },
    year         = 2024,
    url          = { https://huggingface.co/CATIE-AQ/NERmembert-base-3entities },
    doi          = { 10.57967/hf/1752 },
    publisher    = { Hugging Face }
}

CamemBERT

@inproceedings{martin2020camembert,  
  title={CamemBERT: a Tasty French Language Model},  
  author={Martin, Louis and Muller, Benjamin and Su{\'a}rez, Pedro Javier Ortiz and Dupont, Yoann and Romary, Laurent and de la Clergerie, {\'E}ric Villemonte and Seddah, Djam{\'e} and Sagot, Beno{\^\i}t},  
  booktitle={Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics},  
  year={2020}}

CamemBERT 2.0

@misc{antoun2024camembert20smarterfrench,
      title={CamemBERT 2.0: A Smarter French Language Model Aged to Perfection}, 
      author={Wissam Antoun and Francis Kulumba and Rian Touchent and Éric de la Clergerie and Benoît Sagot and Djamé Seddah},
      year={2024},
      eprint={2411.08868},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2411.08868}, 
}

multiconer

@inproceedings{multiconer2-report,  
    title={{SemEval-2023 Task 2: Fine-grained Multilingual Named Entity Recognition (MultiCoNER 2)}},  
    author={Fetahu, Besnik and Kar, Sudipta and Chen, Zhiyu and Rokhlenko, Oleg and Malmasi, Shervin},  
    booktitle={Proceedings of the 17th International Workshop on Semantic Evaluation (SemEval-2023)},  
    year={2023},  
    publisher={Association for Computational Linguistics}}

@article{multiconer2-data,  
    title={{MultiCoNER v2: a Large Multilingual dataset for Fine-grained and Noisy Named Entity Recognition}},  
    author={Fetahu, Besnik and Chen, Zhiyu and Kar, Sudipta and Rokhlenko, Oleg and Malmasi, Shervin},  
    year={2023}}

multinerd

@inproceedings{tedeschi-navigli-2022-multinerd,  
    title = "{M}ulti{NERD}: A Multilingual, Multi-Genre and Fine-Grained Dataset for Named Entity Recognition (and Disambiguation)",  
    author = "Tedeschi, Simone and  Navigli, Roberto",  
    booktitle = "Findings of the Association for Computational Linguistics: NAACL 2022",  
    month = jul,  
    year = "2022",  
    address = "Seattle, United States",  
    publisher = "Association for Computational Linguistics",  
    url = "https://aclanthology.org/2022.findings-naacl.60",  
    doi = "10.18653/v1/2022.findings-naacl.60",  
    pages = "801--812"}

pii-masking-200k

@misc {ai4privacy_2023,  
    author = { {ai4Privacy} },  
    title = { pii-masking-200k (Revision 1d4c0a1) },  
    year = 2023,  
    url = { https://huggingface.co/datasets/ai4privacy/pii-masking-200k },  
    doi = { 10.57967/hf/1532 },  
    publisher = { Hugging Face }}

wikiann

@inproceedings{rahimi-etal-2019-massively,  
    title = "Massively Multilingual Transfer for {NER}",  
    author = "Rahimi, Afshin and Li, Yuan and Cohn, Trevor",  
    booktitle = "Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics",  
    month = jul,  
    year = "2019",  
    address = "Florence, Italy",  
    publisher = "Association for Computational Linguistics",  
    url = "https://www.aclweb.org/anthology/P19-1015",  
    pages = "151--164"}

wikiner

@article{NOTHMAN2013151,  
    title = {Learning multilingual named entity recognition from Wikipedia},  
    journal = {Artificial Intelligence},  
    volume = {194},  
    pages = {151-175},  
    year = {2013},  
    note = {Artificial Intelligence, Wikipedia and Semi-Structured Resources},  
    issn = {0004-3702},  
    doi = {https://doi.org/10.1016/j.artint.2012.03.006},  
    url = {https://www.sciencedirect.com/science/article/pii/S0004370212000276},  
    author = {Joel Nothman and Nicky Ringland and Will Radford and Tara Murphy and James R. Curran}}

frenchNER_3entities

@misc {frenchNER2024,  
    author       = { {BOURDOIS, Loïck} },  
    organization  = { {Centre Aquitain des Technologies de l'Information et Electroniques} },  
    title        = { frenchNER_3entities },  
    year         = 2024,  
    url          = { https://huggingface.co/CATIE-AQ/frenchNER_3entities },  
    doi          = { 10.57967/hf/1751 },  
    publisher    = { Hugging Face }  
}