Bert Base Uncased Finetuned Advanced Srl Arg

🚀 微調版bert-base-uncased高級語義角色標註模型

本模型是基於英文通用命題庫數據集，針對語義角色標註（SRL）任務對 bert-base-uncased 進行微調後的版本。它能有效解決語義角色標註任務中的角色識別問題，為自然語言處理中的語義理解提供了更精準的支持。

🚀 快速開始

本模型可對輸入句子進行語義角色標註。使用示例請參考：https://github.com/dannashao/bertsrl/blob/main/Evaluation.ipynb

✨ 主要特性

• 該模型是 bert-base-uncased 在英文通用命題庫數據集上針對語義角色標註（SRL）任務的微調版本。
• 在評估集上取得了良好的效果，損失為 0.0914，精確率為 0.8664，召回率為 0.8673，F1 值為 0.8669，準確率為 0.9812。
• 採用了與 NegBERT (Khandelwal, et al. 2020) 中 Augment 方法類似的策略，在謂詞前添加特殊標記 ([V])。

📚 詳細文檔

模型描述

這個更高級的 SRL 模型採用了與 NegBERT (Khandelwal, et al. 2020) 中 Augment 方法類似的策略。即，在謂詞前立即添加一個特殊標記 ([V])：

This [V] is a sentence.

請注意，特殊標記和謂詞被視為一個整體。即，實際的句子形式如下：

'This' '[V] is' 'a' 'sentence' '.'

訓練和評估數據

使用的是英文通用命題庫 v1.0 數據。詳情請見：https://github.com/UniversalPropositions/UP-1.0

訓練過程

詳情請見：https://github.com/chuqiaog/Advanced_NLP_group_1/blob/main/A3/A3_main.ipynb

訓練超參數

訓練過程中使用了以下超參數：

訓練結果

框架版本

• Transformers 4.37.0
• Pytorch 2.0.1+cu117
• Datasets 2.16.1
• Tokenizers 0.15.1

📄 許可證

本模型採用 Apache-2.0 許可證。