Srl En Mbert Base

🚀 多語言語義角色標註微調模型

本項目基於多語言BERT模型，針對英文語義角色標註任務進行了微調。模型在英文CoNLL格式的OntoNotes v5.0語義角色標註數據上進行訓練，同時還衍生出了一系列針對葡萄牙語和多語言場景的模型。

🚀 快速開始

模型使用

若要使用此模型的transformers部分，可參考以下代碼：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("liaad/srl-en_mbert-base")
model = AutoModel.from_pretrained("liaad/srl-en_mbert-base")

若要使用完整的SRL模型（transformers部分 + 解碼層），請參考項目的GitHub倉庫。

✨ 主要特性

• 多語言支持：基於bert-base-multilingual-cased模型，具備多語言處理能力。
• 語義角色標註：針對語義角色標註任務進行微調，可用於識別文本中的語義角色。
• 衍生模型豐富：項目還衍生出了多個針對葡萄牙語和多語言場景的模型。

📦 模型信息

🔧 技術細節

訓練過程

該模型在CoNLL-2012數據集上進行訓練，並對數據進行了預處理，以匹配葡萄牙語PropBank.Br數據。模型在PropBank.Br數據集以及一個較小的觀點數據集“Buscapé”上進行了測試。

侷限性和偏差

• 訓練輪數：模型僅訓練了5個epoch。
• 數據預處理：英文數據經過預處理以匹配葡萄牙語數據，因此在角色歸屬上存在一些差異，並且部分角色已從數據中移除。

📚 詳細文檔

評估結果

引用信息

@misc{oliveira2021transformers,
      title={Transformers and Transfer Learning for Improving Portuguese Semantic Role Labeling}, 
      author={Sofia Oliveira and Daniel Loureiro and Alípio Jorge},
      year={2021},
      eprint={2101.01213},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

如需瞭解更多信息，請參考項目的GitHub倉庫。