Vit Facial Expression Recognition

🚀 vit-Facial-Expression-Recognition

本模型是 google/vit-base-patch16-224-in21k 在 FER 2013、MMI Facial Expression Database 和 AffectNet dataset 數據集上微調後的版本。 該模型在評估集上取得了以下結果：

• 損失值：0.4503
• 準確率：0.8434

✨ 主要特性

模型描述

vit-face-expression 模型是一個經過微調的視覺變換器（Vision Transformer），專門用於面部表情識別任務。

它在 FER2013、MMI 面部表情和 AffectNet 數據集上進行訓練，這些數據集包含的面部圖像被分為七種不同的情緒類別：

• 憤怒
• 厭惡
• 恐懼
• 高興
• 悲傷
• 驚訝
• 中性

數據預處理

輸入圖像在輸入模型之前會進行預處理。預處理步驟包括：

• 調整大小：將圖像調整為指定的輸入大小。
• 歸一化：將像素值歸一化到特定範圍。
• 數據增強：應用隨機變換，如旋轉、翻轉和縮放，以擴充訓練數據集。

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：3e-05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 梯度累積步數：8
• 總訓練批次大小：256
• 優化器：Adam，其中 betas=(0.9, 0.999)，epsilon=1e-08
• 學習率調度器類型：餘弦
• 學習率調度器熱身步數：1000
• 訓練輪數：3

訓練結果

框架版本

• Transformers 4.36.0
• Pytorch 2.0.0
• Datasets 2.1.0
• Tokenizers 0.15.0