Bert Portuguese Ner

🚀 bert-portuguese-ner

このモデルは neuralmind/bert-base-portuguese-cased をベースに微調整されたバージョンで、ポルトガル語のアーカイブ文書における固有表現抽出（NER）問題を解決するために使用でき、評価セットで優れた性能を発揮します。

🚀 クイックスタート

このモデルは評価セットで以下の結果を達成しました：

• 損失値：0.1140
• 適合率：0.9147
• 再現率：0.9483
• F1値：0.9312
• 正解率：0.9700

✨ 主な機能

• 事前学習されたポルトガル語のBERTモデルを微調整し、ポルトガル語のアーカイブ文書の固有表現抽出タスクに適しています。
• 注釈付けされるラベルには、日付、職業、人物、場所、組織が含まれ、さまざまな情報抽出ニーズを満たすことができます。

📚 ドキュメント

モデルの説明

このモデルは、ポルトガル語のアーカイブ文書のタグ付け分類タスク（NER）で微調整されています。注釈付けされるラベルは、日付、職業、人物、場所、組織です。

データセット

すべての学習と評価データは、以下のリンクから取得できます：http://ner.epl.di.uminho.pt/

学習ハイパーパラメータ

学習過程では以下のハイパーパラメータが使用されました：

• 学習率：2e-05
• 学習バッチサイズ：16
• 評価バッチサイズ：16
• 乱数シード：42
• オプティマイザ：Adam（β1=0.9，β2=0.999，ε=1e-08）
• 学習率スケジューラのタイプ：線形
• 学習エポック数：4

学習結果

フレームワークのバージョン

• Transformers 4.10.0.dev0
• Pytorch 1.9.0+cu111
• Datasets 1.10.2
• Tokenizers 0.10.3

引用情報

@Article{make4010003,
AUTHOR = {Cunha, Luís Filipe and Ramalho, José Carlos},
TITLE = {NER in Archival Finding Aids: Extended},
JOURNAL = {Machine Learning and Knowledge Extraction},
VOLUME = {4},
YEAR = {2022},
NUMBER = {1},
PAGES = {42--65},
URL = {https://www.mdpi.com/2504-4990/4/1/3},
ISSN = {2504-4990},
ABSTRACT = {The amount of information preserved in Portuguese archives has increased over the years. These documents represent a national heritage of high importance, as they portray the country’s history. Currently, most Portuguese archives have made their finding aids available to the public in digital format, however, these data do not have any annotation, so it is not always easy to analyze their content. In this work, Named Entity Recognition solutions were created that allow the identification and classification of several named entities from the archival finding aids. These named entities translate into crucial information about their context and, with high confidence results, they can be used for several purposes, for example, the creation of smart browsing tools by using entity linking and record linking techniques. In order to achieve high result scores, we annotated several corpora to train our own Machine Learning algorithms in this context domain. We also used different architectures, such as CNNs, LSTMs, and Maximum Entropy models. Finally, all the created datasets and ML models were made available to the public with a developed web platform, NER@DI.},
DOI = {10.3390/make4010003}
}

📄 ライセンス

このプロジェクトはMITライセンスを採用しています。