Distilbert Base Cased Finetuned Conll03 English

🚀 DistilBERT base cased 英語版NERモデル

このモデルは、DistilBERT base cased を conll03 english dataset を用いて固有表現認識（NER）に関してファインチューニングしたものです。なお、このモデルは大文字小文字を区別します。例えば、"english" と "English" は異なるものとして認識されます。大文字小文字を区別しないバージョンが必要な場合は、elastic/distilbert-base-uncased-finetuned-conll03-english を使用してください。

🚀 クイックスタート

このモデルは、固有表現認識（NER）タスクに最適化されています。以下のセクションでは、モデルのバージョン情報、学習方法などについて説明します。

✨ 主な機能

• DistilBERT base cased をベースにした固有表現認識モデル
• conll03 english dataset を用いてファインチューニング
• 大文字小文字を区別する認識能力

📦 インストール

このモデルを使用するには、必要なライブラリをインストールする必要があります。以下のコマンドを実行してください。

pip install transformers datasets

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

# モデルとトークナイザーのロード
tokenizer = AutoTokenizer.from_pretrained("elastic/distilbert-base-cased-finetuned-conll03-english")
model = AutoModelForTokenClassification.from_pretrained("elastic/distilbert-base-cased-finetuned-conll03-english")

# 入力テキスト
text = "I live in New York."

# トークナイズ
inputs = tokenizer(text, return_tensors="pt")

# 予測
with torch.no_grad():
    outputs = model(**inputs)

# 予測結果の取得
logits = outputs.logits
predictions = torch.argmax(logits, dim=2)

# 結果の表示
tokens = tokenizer.convert_ids_to_tokens(inputs["input_ids"][0])
for token, prediction in zip(tokens, predictions[0]):
    print(token, model.config.id2label[prediction.item()])

📚 ドキュメント

バージョン情報

学習方法

以下のコマンドを使用して、モデルを学習させることができます。

$ run_ner.py \
  --model_name_or_path distilbert-base-cased \
  --label_all_tokens True \
  --return_entity_level_metrics True \
  --dataset_name conll2003 \
  --output_dir /tmp/distilbert-base-cased-finetuned-conll03-english \
  --do_train \
  --do_eval

学習後、ラベルを conll2003 データセットの固有表現認識に特化したラベルに更新します。

🔧 技術詳細

モデルの評価結果

📄 ライセンス

このモデルは、Apache License 2.0の下で提供されています。