Bert Large Uncased Finetuned Ner

🚀 大型無大小寫區分的BERT模型微調命名實體識別

此模型是在CoNLL2003數據集上對bert-large-uncased進行微調後的版本。它在評估集上取得了以下效果：

• 損失值：0.0778
• 精確率：0.9505
• 召回率：0.9575
• F1值：0.9540
• 準確率：0.9886

🚀 快速開始

本模型可通過Transformers的 pipeline 用於命名實體識別（NER）。

基礎用法

from transformers import pipeline
from transformers import AutoTokenizer, AutoModelForTokenClassification
tokenizer = AutoTokenizer.from_pretrained("Jorgeutd/bert-large-uncased-finetuned-ner")
model = AutoModelForTokenClassification.from_pretrained("Jorgeutd/bert-large-uncased-finetuned-ner")
nlp = pipeline("ner", model=model, tokenizer=tokenizer)
example = "My name is Scott and I live in Ohio"
ner_results = nlp(example)
print(ner_results)

✨ 主要特性

• 基於大型無大小寫區分的BERT模型進行微調，在CoNLL2003數據集上有良好表現。
• 能夠對文本中的命名實體進行有效識別。

📦 安裝指南

文檔未提供安裝相關內容，暫不展示。

💻 使用示例

基礎用法

from transformers import pipeline
from transformers import AutoTokenizer, AutoModelForTokenClassification
tokenizer = AutoTokenizer.from_pretrained("Jorgeutd/bert-large-uncased-finetuned-ner")
model = AutoModelForTokenClassification.from_pretrained("Jorgeutd/bert-large-uncased-finetuned-ner")
nlp = pipeline("ner", model=model, tokenizer=tokenizer)
example = "My name is Scott and I live in Ohio"
ner_results = nlp(example)
print(ner_results)

📚 詳細文檔

模型描述

需要更多信息。

侷限性和偏差

此模型受其訓練數據集的限制，該數據集為特定時間段內帶有實體標註的新聞文章。這可能導致它在不同領域的所有用例中泛化能力不佳。此外，模型偶爾會將子詞標記為實體，可能需要對結果進行後處理以處理這些情況。

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：16
• 評估批次大小：64
• 隨機種子：42
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 訓練輪數：10

訓練結果

框架版本

• Transformers 4.16.2
• Pytorch 1.8.1 + cu111
• Datasets 1.18.3
• Tokenizers 0.11.0

🔧 技術細節

文檔未提供足夠技術細節內容，暫不展示。

📄 許可證

本項目採用Apache 2.0許可證。