Ner Portuguese Br Bert Cased

🚀 葡萄牙語命名實體識別模型

本模型旨在減少對葡萄牙語模型的需求，基於預訓練模型在特定數據集上微調而來，可用於葡萄牙語文本的命名實體識別任務。

🚀 快速開始

代碼示例

from transformers import BertForTokenClassification, DistilBertTokenizerFast, pipeline

model = BertForTokenClassification.from_pretrained('rhaymison/ner-portuguese-br-bert-cased')
tokenizer = DistilBertTokenizerFast.from_pretrained('rhaymison/ner-portuguese-br-bert-cased'
                                                    , model_max_length=512
                                                    , do_lower_case=False
                                                    )

nlp = pipeline('ner', model=model, tokenizer=tokenizer, grouped_entities=True)

result = nlp(f"""
A passagem de uma frente fria pelo Rio Grande do Sul e Santa Catarina mantém o tempo instável,
e chove a qualquer hora nos dois estados. Há risco de temporais no sul e leste gaúcho.
No Paraná segue quente, e pancadas de chuva ocorrem a partir da tarde, também com risco de temporais.
""")

### 輸出
[{'entity_group': 'LOC',
  'score': 0.99812114,
  'word': 'Rio Grande do Sul',
  'start': 36,
  'end': 53},
 {'entity_group': 'LOC',
  'score': 0.99795854,
  'word': 'Santa Catarina',
  'start': 56,
  'end': 70},
 {'entity_group': 'LOC',
  'score': 0.997009,
  'word': 'Paraná',
  'start': 186,
  'end': 192}]

命名實體類別

本模型具有多種命名實體類別，具體如下：

• O: 0
• B-ANIM: 1
• B-BIO: 2
• B-CEL: 3
• B-DIS: 4
• B-EVE: 5
• B-FOOD: 6
• B-INST: 7
• B-LOC: 8
• B-MEDIA: 9
• B-MYTH: 10
• B-ORG: 11
• B-PER: 12
• B-PLANT: 13
• B-TIME: 14
• B-VEHI: 15
• I-ANIM: 16
• I-BIO: 17
• I-CEL: 18
• I-DIS: 19
• I-EVE: 20
• I-FOOD: 21
• I-INST: 22
• I-LOC: 23
• I-MEDIA: 24
• I-MYTH: 25
• I-ORG: 26
• I-PER: 27
• I-PLANT: 28
• I-TIME: 29
• I-VEHI: 30

✨ 主要特性

• 語言針對性：專門針對葡萄牙語進行優化，能更好地處理葡萄牙語文本的命名實體識別任務。
• 微調模型：基於 google-bert/bert-base-cased 在 MultNERD 數據集上進行微調，在葡萄牙語命名實體識別任務上表現良好。
• 多指標評估：在評估集上，通過損失、精確率、召回率、F1值和準確率等多個指標進行評估，表現優異。

📚 詳細文檔

模型評估結果

本模型在評估集上取得了以下結果：

• 損失（Loss）: 0.0618
• 精確率（Precision）: 0.8965
• 召回率（Recall）: 0.8815
• F1值（F1）: 0.8889
• 準確率（Accuracy）: 0.9810

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）: 1e - 05
• 訓練批次大小（train_batch_size）: 4
• 評估批次大小（eval_batch_size）: 8
• 隨機種子（seed）: 42
• 梯度累積步數（gradient_accumulation_steps）: 2
• 總訓練批次大小（total_train_batch_size）: 8
• 優化器（optimizer）: Adam（betas=(0.9, 0.999)，epsilon=1e - 08）
• 學習率調度器類型（lr_scheduler_type）: 線性（linear）
• 訓練輪數（num_epochs）: 1
• 混合精度訓練（mixed_precision_training）: 原生自動混合精度（Native AMP）

訓練結果

框架版本

• Transformers: 4.38.2
• Pytorch: 2.2.1+cu121
• Datasets: 2.18.0
• Tokenizers: 0.15.2

📄 許可證

本模型使用 Apache 2.0 許可證。

交流與反饋

歡迎提供任何想法、幫助或反饋。 郵箱：rhaymisoncristian@gmail.com