Bert Base Uncased Finetuned Newsqa

🚀 BERT Base Uncased 在 NewsQA 上微調模型

BERT（Base）模型在 NewsQA 數據集上進行了微調，使用的是 Transformers 中 run_squad.py 遺留腳本的修改版本。該腳本已包含在本倉庫中。訓練過程未包含 noAnswer 和 badQuestion 的示例。

🚀 快速開始

安裝與訓練

要在 NewsQA 數據集上微調 BERT（Base）模型，請按照以下步驟操作：

$ cd ~/projects/transformers/examples/legacy/question-answering
$ mkdir bert_base_uncased_finetuned_newsqa
$ python run_newsqa.py \
    --model_type bert \
    --model_name_or_path "bert-base-uncased" \
    --do_train \
    --do_eval \
    --do_lower_case \
    --num_train_epochs 2 \
    --per_gpu_train_batch_size 8 \
    --per_gpu_eval_batch_size 32 \
    --max_seq_length 384 \
    --max_grad_norm inf \
    --doc_stride 128 \
    --train_file "~/projects/data/newsqa/combined-newsqa-data-v1.json" \
    --predict_file "~/projects/data/newsqa/combined-newsqa-data-v1.json" \
    --output_dir "./bert_base_uncased_finetuned_newsqa" \
    --save_steps 20000

訓練結果

訓練完成後，將得到以下評估指標：

{'exact': 60.19350380096752, 'f1': 73.29371985128037, 'total': 4341, 'HasAns_exact': 60.19350380096752, 'HasAns_f1': 73.29371985128037, 'HasAns_total': 4341, 'best_exact': 60.19350380096752, 'best_exact_thresh': 0.0, 'best_f1': 73.29371985128037, 'best_f1_thresh': 0.0}

數據準備

要準備數據庫，請遵循 NewsQA 倉庫中的說明。

評估微調模型

要評估微調後的模型，請運行以下命令：

python run_newsqa.py \
  --model_type bert \
  --model_name_or_path "./bert_large_uncased_finetuned_newsqa/checkpoint-700000" \
  --do_eval \
  --do_lower_case \
  --per_gpu_eval_batch_size 32 \
  --max_seq_length 384 \
  --max_grad_norm inf \
  --doc_stride 128 \
  --predict_file "~/projects/data/newsqa/combined-newsqa-data-v1.json" \
  --output_dir "./bert_large_uncased_finetuned_newsqa_eval"

📄 許可證

本項目採用 Apache 2.0 許可證。