Vit FaceMask Finetuned

🚀 用於口罩檢測的視覺變換器 (ViT)

本項目使用視覺變換器（ViT）模型，在自行整理的自定義 Face-Mask18K 數據集（包含 18000 張圖像，2 個類別）上進行了預訓練和微調，圖像分辨率為 224x224。該模型最早由 Touvron 等人在論文《Training data-efficient image transformers & distillation through attention》中提出，同時也在 Dosovitskiy 等人的論文《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》中有所介紹。

🚀 快速開始

本模型可用於口罩檢測相關的圖像分類任務。你可以基於預訓練的模型，在自己的數據集上進行微調，以適應特定的應用場景。

📚 詳細文檔

模型描述

視覺變換器（ViT）是一種基於 Transformer 編碼器的模型（類似 BERT），它在大規模圖像數據集 ImageNet - 21k 上以有監督的方式進行了預訓練，圖像分辨率為 224x224 像素。

圖像以固定大小的圖像塊序列（分辨率為 16x16）的形式輸入到模型中，並進行線性嵌入。同時，會在序列開頭添加一個 [CLS] 標記，用於分類任務。在將序列輸入到 Transformer 編碼器的各層之前，還會添加絕對位置嵌入。

需要注意的是，該模型沒有提供任何微調後的頭部，因為谷歌的研究人員將其置為零。不過，模型包含預訓練的池化器，可用於下游任務（如圖像分類）。

通過預訓練，模型學習到圖像的內部表示，可用於提取對下游任務有用的特徵。例如，如果你有一個帶標籤的圖像數據集，可以在預訓練的編碼器之上添加一個線性層，訓練一個標準的分類器。通常會在 [CLS] 標記之上添加一個線性層，因為該標記的最後隱藏狀態可以看作是整個圖像的表示。

訓練指標

評估指標

📄 許可證

本項目採用 Apache - 2.0 許可證。