Vit Facial Expression Recognition

🚀 vit-Facial-Expression-Recognition

本模型是 google/vit-base-patch16-224-in21k 在 FER 2013、MMI Facial Expression Database 和 AffectNet dataset 数据集上微调后的版本。 该模型在评估集上取得了以下结果：

• 损失值：0.4503
• 准确率：0.8434

✨ 主要特性

模型描述

vit-face-expression 模型是一个经过微调的视觉变换器（Vision Transformer），专门用于面部表情识别任务。

它在 FER2013、MMI 面部表情和 AffectNet 数据集上进行训练，这些数据集包含的面部图像被分为七种不同的情绪类别：

• 愤怒
• 厌恶
• 恐惧
• 高兴
• 悲伤
• 惊讶
• 中性

数据预处理

输入图像在输入模型之前会进行预处理。预处理步骤包括：

• 调整大小：将图像调整为指定的输入大小。
• 归一化：将像素值归一化到特定范围。
• 数据增强：应用随机变换，如旋转、翻转和缩放，以扩充训练数据集。

训练超参数

训练过程中使用了以下超参数：

• 学习率：3e-05
• 训练批次大小：32
• 评估批次大小：32
• 随机种子：42
• 梯度累积步数：8
• 总训练批次大小：256
• 优化器：Adam，其中 betas=(0.9, 0.999)，epsilon=1e-08
• 学习率调度器类型：余弦
• 学习率调度器热身步数：1000
• 训练轮数：3

训练结果

框架版本

• Transformers 4.36.0
• Pytorch 2.0.0
• Datasets 2.1.0
• Tokenizers 0.15.0