Srl En Mbert Base

🚀 多语言语义角色标注微调模型

本项目基于多语言BERT模型，针对英文语义角色标注任务进行了微调。模型在英文CoNLL格式的OntoNotes v5.0语义角色标注数据上进行训练，同时还衍生出了一系列针对葡萄牙语和多语言场景的模型。

🚀 快速开始

模型使用

若要使用此模型的transformers部分，可参考以下代码：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("liaad/srl-en_mbert-base")
model = AutoModel.from_pretrained("liaad/srl-en_mbert-base")

若要使用完整的SRL模型（transformers部分 + 解码层），请参考项目的GitHub仓库。

✨ 主要特性

• 多语言支持：基于bert-base-multilingual-cased模型，具备多语言处理能力。
• 语义角色标注：针对语义角色标注任务进行微调，可用于识别文本中的语义角色。
• 衍生模型丰富：项目还衍生出了多个针对葡萄牙语和多语言场景的模型。

📦 模型信息

🔧 技术细节

训练过程

该模型在CoNLL-2012数据集上进行训练，并对数据进行了预处理，以匹配葡萄牙语PropBank.Br数据。模型在PropBank.Br数据集以及一个较小的观点数据集“Buscapé”上进行了测试。

局限性和偏差

• 训练轮数：模型仅训练了5个epoch。
• 数据预处理：英文数据经过预处理以匹配葡萄牙语数据，因此在角色归属上存在一些差异，并且部分角色已从数据中移除。

📚 详细文档

评估结果

引用信息

@misc{oliveira2021transformers,
      title={Transformers and Transfer Learning for Improving Portuguese Semantic Role Labeling}, 
      author={Sofia Oliveira and Daniel Loureiro and Alípio Jorge},
      year={2021},
      eprint={2101.01213},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

如需了解更多信息，请参考项目的GitHub仓库。