Distilbert Base Uncased Finetuned Ner

🚀 distilbert-base-uncased-finetuned-ner

このモデルは、distilbert-base-uncased を conll2003 データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.0612
• 適合率: 0.9259
• 再現率: 0.9369
• F1値: 0.9314
• 正解率: 0.9839

🚀 クイックスタート

このモデルは、コンピュータビジョンのタスクに使用できる事前学習済みのモデルです。以下の手順で使用することができます。

📦 インストール

このモデルを使用するには、必要なライブラリをインストールする必要があります。以下のコマンドを実行してください。

pip install transformers datasets

💻 使用例

以下は、このモデルを使用してトークン分類を行う基本的なコード例です。

from transformers import AutoTokenizer, AutoModelForTokenClassification
import torch

# トークナイザーとモデルの読み込み
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased-finetuned-ner")
model = AutoModelForTokenClassification.from_pretrained("distilbert-base-uncased-finetuned-ner")

# 入力テキスト
text = "I live in New York."

# テキストをトークン化
inputs = tokenizer(text, return_tensors="pt")

# モデルの予測
with torch.no_grad():
    outputs = model(**inputs)

# 予測結果の取得
logits = outputs.logits
predictions = torch.argmax(logits, dim=2)

# 予測結果の表示
tokens = tokenizer.convert_ids_to_tokens(inputs["input_ids"][0])
for token, prediction in zip(tokens, predictions[0]):
    print(token, model.config.id2label[prediction.item()])

📚 ドキュメント

モデルの詳細

このモデルは、distilbert-base-uncased を conll2003 データセットでファインチューニングしたものです。

想定される使用法と制限

詳細情報は必要です。

学習と評価データ

詳細情報は必要です。

🔧 技術詳細

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 2e-05
• 学習バッチサイズ: 16
• 評価バッチサイズ: 16
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• エポック数: 3

学習結果

フレームワークのバージョン

• Transformers 4.9.1
• Pytorch 1.9.0+cu102
• Datasets 1.11.0
• Tokenizers 0.10.3

📄 ライセンス

このモデルは、Apache-2.0 ライセンスの下で提供されています。