Bert Mini Finetuned Squadv2

🚀 BERT-miniモデル（M-FACでファインチューニング）

このモデルは、最先端の2次オプティマイザであるM-FACを使用して、SQuADバージョン2のデータセットでファインチューニングされています。M-FACの詳細については、NeurIPS 2021の論文を参照してください：https://arxiv.org/pdf/2107.03356.pdf。

🚀 クイックスタート

このセクションでは、BERT-miniモデルをM-FACでファインチューニングする手順や結果について説明します。

✨ 主な機能

• M-FACオプティマイザを使用してBERT-miniモデルをSQuADバージョン2のデータセットでファインチューニング。
• デフォルトのAdamベースラインとの公平な比較のため、同じフレームワークでファインチューニングを行い、AdamオプティマイザをM-FACに置き換えます。

📦 インストール

本READMEではインストール手順に関する具体的なコマンドが提供されていないため、このセクションを省略します。

💻 使用例

基本的な使用法

M-FACオプティマイザで使用するハイパーパラメータは以下の通りです。

learning rate = 1e-4
number of gradients = 1024
dampening = 1e-6

高度な使用法

SQuADバージョン2の検証セットでの結果を再現するには、以下のbashスクリプトを実行します。

CUDA_VISIBLE_DEVICES=0 python run_qa.py \
    --seed 8276 \
    --model_name_or_path prajjwal1/bert-mini \
    --dataset_name squad_v2 \
    --version_2_with_negative \
    --do_train \
    --do_eval \
    --per_device_train_batch_size 12 \
    --learning_rate 1e-4 \
    --num_train_epochs 2 \
    --max_seq_length 384 \
    --doc_stride 128 \
    --output_dir out_dir/ \
    --optim MFAC \
    --optim_args '{"lr": 1e-4, "num_grads": 1024, "damp": 1e-6}'

📚 ドキュメント

ファインチューニングのセットアップ

デフォルトのAdamベースラインとの公平な比較のため、以下のフレームワークでモデルをファインチューニングし、AdamオプティマイザをM-FACに置き換えます。https://github.com/huggingface/transformers/tree/master/examples/pytorch/question-answering

結果

5回の実行の中で最良のモデルを共有し、SQuADバージョン2の検証セットで以下のスコアを達成しました。

exact_match = 58.38
f1 = 61.65

SQuADバージョン2の検証セットでの5回の実行の平均と標準偏差は以下の通りです。

BibTeXエントリと引用情報

@article{frantar2021m,
  title={M-FAC: Efficient Matrix-Free Approximations of Second-Order Information},
  author={Frantar, Elias and Kurtic, Eldar and Alistarh, Dan},
  journal={Advances in Neural Information Processing Systems},
  volume={35},
  year={2021}
}

🔧 技術詳細

本READMEでは技術的な実装詳細が十分に記載されていないため、このセクションを省略します。

📄 ライセンス

本READMEではライセンス情報が提供されていないため、このセクションを省略します。