Bert Tiny Finetuned Stsb

🚀 基於M - FAC微調的BERT - tiny模型

本模型在STS - B數據集上使用了最先進的二階優化器M - FAC進行微調。如需瞭解M - FAC的更多詳細信息，請查閱NeurIPS 2021論文：https://arxiv.org/pdf/2107.03356.pdf。

🚀 快速開始

本模型使用M - FAC優化器在STS - B數據集上進行微調，相較於默認的Adam優化器，在性能上有顯著提升。

✨ 主要特性

• 使用最先進的二階優化器M - FAC進行微調。
• 在STS - B驗證集上取得了優異的成績。
• 可以通過簡單的代碼復現實驗結果。

📦 安裝指南

文檔未提及安裝步驟，跳過此章節。

💻 使用示例

基礎用法

為了與默認的Adam基線進行公平比較，我們在如下框架中微調模型 https://github.com/huggingface/transformers/tree/master/examples/pytorch/text-classification，並將Adam優化器替換為M - FAC。M - FAC優化器使用的超參數如下：

learning rate = 1e-4
number of gradients = 512
dampening = 1e-6

高級用法

可以通過在 https://github.com/huggingface/transformers/blob/master/examples/pytorch/text-classification/run_glue.py 中添加M - FAC優化器代碼並運行以下bash腳本來複現結果：

CUDA_VISIBLE_DEVICES=0 python run_glue.py \
  --seed 7 \
  --model_name_or_path prajjwal1/bert-tiny \
  --task_name stsb \
  --do_train \
  --do_eval \
  --max_seq_length 128 \
  --per_device_train_batch_size 32 \
  --learning_rate 1e-4 \
  --num_train_epochs 5 \
  --output_dir out_dir/ \
  --optim MFAC \
  --optim_args '{"lr": 1e-4, "num_grads": 512, "damp": 1e-6}'

我們認為通過適度調整超參數 per_device_train_batch_size、learning_rate、num_train_epochs、num_grads 和 damp，這些結果還可以進一步提升。為了進行公平比較和設置一個穩健的默認配置，我們在所有模型（bert - tiny、bert - mini）和所有數據集（SQuAD版本2和GLUE）上使用了相同的超參數。

📚 詳細文檔

結果

我們分享了5次運行中表現最佳的模型，其在STS - B驗證集上的得分如下：

pearson = 80.66
spearman = 81.13

5次運行在STS - B驗證集上的均值和標準差如下：

代碼鏈接

我們的M - FAC代碼可在以下鏈接找到：[https://github.com/IST-DASLab/M - FAC](https://github.com/IST-DASLab/M - FAC)。 關於如何在任何倉庫中集成和使用M - FAC的分步教程可在以下鏈接找到：[https://github.com/IST-DASLab/M - FAC/tree/master/tutorials](https://github.com/IST-DASLab/M - FAC/tree/master/tutorials)。

📄 許可證

文檔未提及許可證信息，跳過此章節。

🔧 技術細節

文檔未提供具體的技術實現細節，跳過此章節。

📚 引用信息

@article{frantar2021m,
  title={M-FAC: Efficient Matrix-Free Approximations of Second-Order Information},
  author={Frantar, Elias and Kurtic, Eldar and Alistarh, Dan},
  journal={Advances in Neural Information Processing Systems},
  volume={35},
  year={2021}
}