Distilbert Base Uncased Squad2

🚀 Distilbert base uncased模型微調

本模型是基於 Distilbert base uncased 在SQuAD v2數據集上微調得到的。微調後的模型在開發子集上的表現接近原論文，能夠為你節省時間、精力和計算資源。

🚀 快速開始

訓練與評估命令

在SQuAD v2數據集上對Distilbert base uncased模型進行訓練和評估，可使用以下命令：

export SQUAD_DIR=../../squad2
python3 run_squad.py 
    --model_type distilbert 
    --model_name_or_path distilbert-base-uncased
    --do_train 
    --do_eval 
    --overwrite_cache 
    --do_lower_case 
    --version_2_with_negative 
    --save_steps 100000 
    --train_file $SQUAD_DIR/train-v2.0.json 
    --predict_file $SQUAD_DIR/dev-v2.0.json 
    --per_gpu_train_batch_size 8 
    --num_train_epochs 3 
    --learning_rate 3e-5 
    --max_seq_length 384 
    --doc_stride 128 
    --output_dir ./tmp/distilbert_fine_tuned/

開發子集性能

模型在開發子集上的性能表現如下：

{
    "exact": 64.88976637051661, 
    "f1": 68.1776176526635, 
    "total": 6078, 
    "HasAns_exact": 69.7594501718213, 
    "HasAns_f1": 76.62665295288285, 
    "HasAns_total": 2910, 
    "NoAns_exact": 60.416666666666664, 
    "NoAns_f1": 60.416666666666664, 
    "NoAns_total": 3168, 
    "best_exact": 64.88976637051661, 
    "best_exact_thresh": 0.0, 
    "best_f1": 68.17761765266337, 
    "best_f1_thresh": 0.0
}

我們希望這個微調後的模型能為你帶來便利，祝你使用愉快！