Electra Small Ner

🚀 エレクトラ小規模NERモデル

このモデルは、NER予測タスク用に微調整されたelectra-smallモデルです。現在、3つのエンティティを予測することができます。

🚀 クイックスタート

以下のコードを使用して、モデルを使い始めることができます。

from transformers import AutoModelForTokenClassification, AutoTokenizer
from transformers import pipeline

model = AutoModelForTokenClassification.from_pretrained("rv2307/electra-small-ner")
tokenizer = AutoTokenizer.from_pretrained("rv2307/electra-small-ner")

nlp = pipeline("ner",
              model=model,
              tokenizer=tokenizer,device="cpu",
              aggregation_strategy = "max")

✨ 主な機能

• このモデルは、NER予測タスク用に微調整されたelectra-smallモデルです。
• 現在、Location、Person、Organizationの3つのエンティティを予測することができます。

📚 ドキュメント

モデルの詳細

モデルの説明

このモデルは、NER予測タスク用に微調整されたelectra-smallモデルです。現在、以下の3つのエンティティを予測します。

1. 場所
2. 人物
3. 組織

• 開発者:
  விபின் (Vipin)
• モデルの種類: Googleのelectra small discriminator
• 言語 (NLP): 英語
• ライセンス: Apache 2.0
• 微調整元のモデル [オプション]: Googleのelectra small discriminator

モデルのソース [オプション]

• リポジトリ: https://huggingface.co/google/electra-small-discriminator

用途

このモデルは、distilbertファミリーのトークナイザーを使用しています。そのため、同じ単語（異なるサブワード）に対して誤ったエンティティを予測する可能性があります。transformerのパイプラインを使用する際には、'aggregation_strategy'を "max" に設定してください。 例えば 'ashwin' の場合: 'ash' => 人物 'win' => 場所

想定外の使用

一部の長文に対しては、うまく機能しない場合があります。

トレーニングの詳細

トレーニング手順

このモデルは、学習率3e-4で6エポックのトレーニングを行っています。

 [39168/39168 41:18, Epoch 6/6]
Step	Training Loss	Validation Loss	Precision	Recall	F1	Accuracy
10000	0.086300	0.088625	0.863476	0.876271	0.869827	0.972581
20000	0.059800	0.079611	0.894612	0.884521	0.889538	0.976563
30000	0.050400	0.074552	0.895812	0.902591	0.899188	0.978380

評価

このモデルの検証損失は0.07です。

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。

⚠️ 重要な注意事項

このモデルは、distilbertファミリーのトークナイザーを使用しています。そのため、同じ単語（異なるサブワード）に対して誤ったエンティティを予測する可能性があります。transformerのパイプラインを使用する際には、'aggregation_strategy'を "max" に設定してください。

💡 使用上のヒント

一部の長文に対しては、うまく機能しない場合があります。