🚀 測試BERT微調命名實體識別模型
本模型是基於 bert-base-cased 在 conll2003 數據集上進行微調的版本。它在評估集上取得了以下成績:
- 損失率:0.0600
- 精確率:0.9355
- 召回率:0.9514
- F1值:0.9433
- 準確率:0.9868
📚 詳細文檔
模型信息
屬性 |
詳情 |
模型類型 |
基於 BERT 微調的命名實體識別模型 |
訓練數據 |
conll2003 數據集 |
指標 |
精確率、召回率、F1值、準確率 |
模型評估結果
任務 |
數據集 |
指標類型 |
指標值 |
是否驗證 |
驗證令牌 |
標記分類 |
conll2003 |
精確率 |
0.9354625186165811 |
否 |
無 |
標記分類 |
conll2003 |
召回率 |
0.9513631773813531 |
否 |
無 |
標記分類 |
conll2003 |
F1值 |
0.943345848977889 |
否 |
無 |
標記分類 |
conll2003 |
準確率 |
0.9867545770294931 |
否 |
無 |
標記分類 |
conll2003(測試集) |
準確率 |
0.9003797607979704 |
是 |
eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiOGVlNjEyMTJmOTBhMmE1NjY1ODA3MTE0ZjM1YjU5Mzk2ZTY1NWE2MTZiMGMxZTRiNDNjNzNiYzI2NzZiMzAxMiIsInZlcnNpb24iOjF9.ScTPJWA72u8-LTp78w7U8teH-TXdyWnoz4vnK-1TefERahcKQ51eekHI_2xjOPe-1uQmw5z8rKTZfh3MOv-HCw |
標記分類 |
conll2003(測試集) |
精確率 |
0.9286807108391197 |
是 |
eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiYjc0OGM4MTQ0OGM3NzA1ZTJmODg4YmJiZTZjOTVkZWYzZGYxZGYzZThhYzRkMzAxOWNhZmQ0NmJhNTMxZGI4MCIsInZlcnNpb24iOjF9.vloc_Hl4_UmVHUMTN2utIKJ2gYntSlZVuVJNkeGn-fR9SeRbKzmkBds4GQNjsV0JiVmnX0POB1hUqRGP4UjdAg |
標記分類 |
conll2003(測試集) |
召回率 |
0.9158238551580065 |
是 |
eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiYzE2ZGIwNTAzNDhkMDc0MmU2NTQ2MjIyNjA0NzI0N2JiNDM3NjgxNTU3YmNiNWIwOTRmYzNkMTE0MmUyOTNhNiIsInZlcnNpb24iOjF9.-mi3lImJs1-993tdLiTL7KGFEb-jZJVrviqUlFaVY0rgkojDvRyhbUBnJoD4dadh728kRDTH5NW-ZKb9B9FTDg |
標記分類 |
conll2003(測試集) |
F1值 |
0.9222074745602832 |
是 |
eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiOGE1ODE0MGUzZmFhZTNhOWMwMzk3NzQ5MTQwOWIyNjAxZWUwMDgzNDBlNGIyNmY4YmQ4ZDRmOTljZmYyNGYzOCIsInZlcnNpb24iOjF9.PjQJinFobofJhCpsTLEuMSjsskLfbOmAPPQVGWBGk7jYOi3lvd9CUn9i_g1GlbbxuxmO1L9sMAj-pANn-aQiAA |
標記分類 |
conll2003(測試集) |
損失率 |
0.8705922365188599 |
是 |
eyJhbGciOiJFZERTQSIsInR5cCI6IkpXVCJ9.eyJoYXNoIjoiOGI2YTU4ZmExYmZmMjBmMjM3ZWJhNDA0OGMwZjM4YWE4MjU1YmFjMTQxMjQ5MDlhNzYzYTBmYTc3YzRkN2UwOCIsInZlcnNpb24iOjF9.iyuIRW9M-yknXWi2Whboo-rjzicgxSGaeCpypgiQVYexjenzA5itKt_CDx52t7508zYshp-1ERnEHuEwBic9Aw |
訓練過程
訓練超參數
在訓練過程中使用了以下超參數:
- 學習率:2e-05
- 訓練批次大小:8
- 評估批次大小:8
- 隨機種子:42
- 優化器:Adam(β1=0.9,β2=0.999,ε=1e-08)
- 學習率調度器類型:線性
- 訓練輪數:3
訓練結果
訓練損失率 |
輪數 |
步數 |
驗證損失率 |
精確率 |
召回率 |
F1值 |
準確率 |
0.0849 |
1.0 |
1756 |
0.0713 |
0.9144 |
0.9366 |
0.9253 |
0.9817 |
0.0359 |
2.0 |
3512 |
0.0658 |
0.9346 |
0.9500 |
0.9422 |
0.9860 |
0.0206 |
3.0 |
5268 |
0.0600 |
0.9355 |
0.9514 |
0.9433 |
0.9868 |
框架版本
- Transformers:4.11.0.dev0
- Pytorch:1.8.1+cu111
- Datasets:1.12.1.dev0
- Tokenizers:0.10.3
📄 許可證
本模型採用 Apache-2.0 許可證。