Vit Facial Expression Recognition

🚀 vit-Facial-Expression-Recognition

本模型是 google/vit-base-patch16-224-in21k 在 FER 2013、MMI Facial Expression Database 和 AffectNet dataset 數據集上的微調版本。 它在評估集上取得了以下結果：

• 損失值：0.4503
• 準確率：0.8434

📚 模型描述

vit-face-expression 模型是一個針對面部表情識別任務進行微調的視覺變換器（Vision Transformer）模型。

該模型在 FER2013、MMI 面部表情和 AffectNet 數據集上進行訓練，這些數據集包含的面部圖像被分為七種不同的情緒類別：

• 憤怒
• 厭惡
• 恐懼
• 快樂
• 悲傷
• 驚訝
• 中性

🛠️ 數據預處理

輸入圖像在輸入模型之前會進行預處理。預處理步驟包括：

• 調整大小：將圖像調整為指定的輸入尺寸。
• 歸一化：將像素值歸一化到特定範圍。
• 數據增強：應用隨機變換，如旋轉、翻轉和縮放，以擴充訓練數據集。

🏋️‍ 訓練超參數

訓練期間使用了以下超參數：

• 學習率：3e-05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 梯度累積步數：8
• 總訓練批次大小：256
• 優化器：Adam，β=(0.9, 0.999)，ε=1e-08
• 學習率調度器類型：餘弦
• 學習率調度器熱身步數：1000
• 訓練輪數：3

📈 訓練結果

📦 框架版本

• Transformers 4.36.0
• Pytorch 2.0.0
• Datasets 2.1.0
• Tokenizers 0.15.0