Bert Base Uncased Squad2

🚀 [BERT base uncased在SQuAD v2上的微調模型]

本項目是基於 BERT base uncased 在SQuAD v2數據集上進行微調訓練的模型。它能為相關自然語言處理任務提供預訓練好的模型，節省你的時間、精力和計算資源。

🚀 快速開始

訓練模型

你可以使用以下命令在SQuAD v2數據集上對 BERT base uncased 模型進行微調：

export SQUAD_DIR=../../squad2
python3 run_squad.py 
    --model_type bert 
    --model_name_or_path bert-base-uncased 
    --do_train 
    --do_eval 
    --overwrite_cache 
    --do_lower_case 
    --version_2_with_negative 
    --save_steps 100000 
    --train_file $SQUAD_DIR/train-v2.0.json 
    --predict_file $SQUAD_DIR/dev-v2.0.json 
    --per_gpu_train_batch_size 8 
    --num_train_epochs 3 
    --learning_rate 3e-5 
    --max_seq_length 384 
    --doc_stride 128 
    --output_dir ./tmp/bert_fine_tuned/

模型性能

在開發集子集上的性能接近原論文的結果：

結果: 
{
    'exact': 72.35932872655479, 
    'f1': 75.75355132564763, 
    'total': 6078, 
    'HasAns_exact': 74.29553264604812, 
    'HasAns_f1': 81.38490892002987, 
    'HasAns_total': 2910, 
    'NoAns_exact': 70.58080808080808, 
    'NoAns_f1': 70.58080808080808, 
    'NoAns_total': 3168, 
    'best_exact': 72.35932872655479, 
    'best_exact_thresh': 0.0, 
    'best_f1': 75.75355132564766, 
    'best_f1_thresh': 0.0
}

我們希望這個微調後的模型能為你節省時間、精力和計算資源。祝你使用愉快！