Distilroberta Base Squad2

🚀 Distilroberta baseモデル

このモデルは、SQuAD v2上で学習されたDistilroberta baseです。このモデルを使用することで、質問応答タスクの効率化や精度向上が期待できます。

🚀 クイックスタート

モデルの学習と評価

以下のコマンドを使用して、モデルを学習および評価できます。

export SQUAD_DIR=../../squad2
python3 run_squad.py 
    --model_type robberta 
    --model_name_or_path distilroberta-base 
    --do_train 
    --do_eval 
    --overwrite_cache 
    --do_lower_case 
    --version_2_with_negative 
    --save_steps 100000 
    --train_file $SQUAD_DIR/train-v2.0.json 
    --predict_file $SQUAD_DIR/dev-v2.0.json 
    --per_gpu_train_batch_size 8 
    --num_train_epochs 3 
    --learning_rate 3e-5 
    --max_seq_length 384 
    --doc_stride 128 
    --output_dir ./tmp/distilroberta_fine_tuned/

開発サブセットでの性能

開発サブセットでのモデルの性能は、元の論文に近い結果となっています。

Results: 
{
    'exact': 70.9279368213228, 
    'f1': 74.60439802429168, 
    'total': 6078, 
    'HasAns_exact': 67.62886597938144, 
    'HasAns_f1': 75.30774267754136, 
    'HasAns_total': 2910, 
    'NoAns_exact': 73.95833333333333, 
    'NoAns_f1': 73.95833333333333, 'NoAns_total': 3168, 
    'best_exact': 70.94438960184272, 
    'best_exact_thresh': 0.0, 
    'best_f1': 74.62085080481161, 
    'best_f1_thresh': 0.0
}

このモデルを使用することで、時間、エネルギー、計算資源を節約できることを期待しています。

💡 使用建议

このモデルを使用する際には、自身のデータセットやタスクに合わせてハイパーパラメータを調整することをおすすめします。