Bert Mini Finetuned Sst2

🚀 基於M - FAC微調的BERT - mini模型

本模型使用最先進的二階優化器M - FAC在SST - 2數據集上進行了微調。欲瞭解更多關於M - FAC的詳細信息，請查閱NeurIPS 2021的論文：https://arxiv.org/pdf/2107.03356.pdf。

🚀 快速開始

微調設置

為了與默認的Adam基線進行公平比較，我們在此框架中微調模型，僅將Adam優化器替換為M - FAC。M - FAC優化器使用的超參數如下：

學習率 = 1e-4
梯度數量 = 1024
阻尼係數 = 1e-6

結果

我們分享了5次運行中表現最佳的模型，其在SST - 2驗證集上的得分如下：

準確率 = 84.74

在SST - 2驗證集上5次運行的均值和標準差如下：

通過在此文件中添加M - FAC優化器代碼，並運行以下bash腳本，可以復現這些結果：

CUDA_VISIBLE_DEVICES=0 python run_glue.py \
  --seed 1234 \
  --model_name_or_path prajjwal1/bert-mini \
  --task_name sst2 \
  --do_train \
  --do_eval \
  --max_seq_length 128 \
  --per_device_train_batch_size 32 \
  --learning_rate 1e-4 \
  --num_train_epochs 3 \
  --output_dir out_dir/ \
  --optim MFAC \
  --optim_args '{"lr": 1e-4, "num_grads": 1024, "damp": 1e-6}'

我們相信，通過適度調整超參數（如per_device_train_batch_size、learning_rate、num_train_epochs、num_grads和damp），這些結果可以得到進一步提升。為了進行公平比較並建立一個穩健的默認設置，我們在所有模型（bert - tiny、bert - mini）和所有數據集（SQuAD版本2和GLUE）上使用了相同的超參數。

我們的M - FAC代碼可在此處找到。關於如何將M - FAC集成到任何倉庫並使用的詳細教程可在此處找到。

📄 許可證

BibTeX引用和引用信息

@article{frantar2021m,
  title={M-FAC: Efficient Matrix-Free Approximations of Second-Order Information},
  author={Frantar, Elias and Kurtic, Eldar and Alistarh, Dan},
  journal={Advances in Neural Information Processing Systems},
  volume={35},
  year={2021}
}