Roberta Large Ner English

🚀 roberta-large-ner-english：基於roberta-large針對命名實體識別（NER）任務微調的模型

[roberta-large-ner-english] 是一個英文命名實體識別（NER）模型，它基於 roberta-large 在 conll2003 數據集上進行了微調。該模型在電子郵件/聊天數據上進行了驗證，尤其在這類數據上的表現優於其他模型。特別是，該模型在處理不以大寫字母開頭的實體時似乎效果更好。

✨ 主要特性

• 基於 roberta-large 微調，在 conll2003 數據集上訓練。
• 在電子郵件/聊天數據上驗證，對特定類型數據表現出色。
• 對不以大寫字母開頭的實體處理效果更佳。

📦 安裝指南

文檔未提及具體安裝步驟，可參考 Hugging Face 相關庫的安裝方法。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/roberta-large-ner-english")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/roberta-large-ner-english")

# Process text sample (from wikipedia)
from transformers import pipeline

nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="simple")
nlp("Apple was founded in 1976 by Steve Jobs, Steve Wozniak and Ronald Wayne to develop and sell Wozniak's Apple I personal computer")

高級用法

# 高級用法可根據具體需求對模型進行進一步配置和使用，例如調整聚合策略等。
# 這裡展示的代碼與基礎用法類似，可根據實際情況修改
from transformers import AutoTokenizer, AutoModelForTokenClassification

tokenizer = AutoTokenizer.from_pretrained("Jean-Baptiste/roberta-large-ner-english")
model = AutoModelForTokenClassification.from_pretrained("Jean-Baptiste/roberta-large-ner-english")

from transformers import pipeline

# 可嘗試不同的聚合策略
nlp = pipeline('ner', model=model, tokenizer=tokenizer, aggregation_strategy="first")
nlp("Apple was founded in 1976 by Steve Jobs, Steve Wozniak and Ronald Wayne to develop and sell Wozniak's Apple I personal computer")

📚 詳細文檔

訓練數據

訓練數據的分類如下：

為了簡化，原 conll2003 數據集中的前綴 B- 或 I- 被移除。使用原 conll2003 數據集的訓練集和測試集進行訓練，使用 “驗證” 數據集進行驗證，得到的數據集規模如下：

模型性能

在 conll2003 驗證數據集上計算的模型性能（基於標記預測）：

在私有數據集（電子郵件、聊天、非正式討論）上基於單詞預測計算的性能：

相比之下，在相同的私有數據集上，Spacy (en_core_web_trf-3.2.0) 的表現如下：

對於感興趣的人，這裡有一篇關於如何使用該模型的結果來訓練用於電子郵件簽名檢測的 LSTM 模型的短文：LSTM model for email signature detection

📄 許可證

本項目採用 MIT 許可證。