Bert Large Finetuned Squad2

🚀 bert-large-finetuned-squad2

このモデルは、bert-large-uncasedをベースに微調整され、SQuAD2.0データセットで優れた性能を発揮します。質問応答タスクに使用でき、関連分野に強力なサポートを提供します。

🚀 クイックスタート

このモデルは bert-large-uncased をベースに構築され、SQuAD2.0 データセットで微調整されています。対応する論文は こちら（モデル） と こちら（データ） で見つけることができます。

✨ 主な機能

• 言語：英語
• タグ：pytorch、question-answering
• データセット：squad2
• 評価指標：exact、f1

💻 使用例

基本的な使用法

from transformers.pipelines import pipeline

model_name = "phiyodr/bert-large-finetuned-squad2"
nlp = pipeline('question-answering', model=model_name, tokenizer=model_name)
inputs = {
    'question': 'What discipline did Winkelmann create?',
    'context': 'Johann Joachim Winckelmann was a German art historian and archaeologist. He was a pioneering Hellenist who first articulated the difference between Greek, Greco-Roman and Roman art. "The prophet and founding hero of modern archaeology", Winckelmann was one of the founders of scientific archaeology and first applied the categories of style on a large, systematic basis to the history of art. '
}
nlp(inputs)

🔧 技術詳細

訓練プロセス

{
    "base_model": "bert-large-uncased",
    "do_lower_case": True,
    "learning_rate": 3e-5,
    "num_train_epochs": 4,
    "max_seq_length": 384,
    "doc_stride": 128,
    "max_query_length": 64,
    "batch_size": 96 
}

評価結果

• データ：dev-v2.0.json
• スクリプト：evaluate-v2.0.py （元のスクリプトは こちら から取得）

{
  "exact": 76.22336393497852,
  "f1": 79.72527570261339,
  "total": 11873,
  "HasAns_exact": 76.19770580296895,
  "HasAns_f1": 83.21157193271408,
  "HasAns_total": 5928,
  "NoAns_exact": 76.24894869638352,
  "NoAns_f1": 76.24894869638352,
  "NoAns_total": 5945
}