Beit FaceMask Finetuned

🚀 BEiTによる顔マスク検出

このBEiTモデルは、独自収集したカスタム顔マスクデータセットFace - Mask18K（18,000枚の画像、2クラス）で解像度224x224で事前学習および微調整されています。このモデルは、Hangbo Bao、Li Dong、Furu Weiによる論文「BEIT: BERT Pre - Training of Image Transformers」で紹介されました。

📚 ドキュメント

モデルの説明

BEiTモデルはVision Transformer (ViT) の一種で、Transformerエンコーダモデル（BERTライク）です。元のViTモデルとは異なり、BEiTは224x224ピクセルの解像度で、自己教師あり学習により大量の画像コレクション（ImageNet - 21k）で事前学習されています。このモデルの事前学習の目的は、マスクされたパッチに基づいて、OpenAIのDALL - EのVQ - VAEのエンコーダから視覚トークンを予測することです。その後、このモデルは同じく224x224の解像度で、100万枚の画像と1,000クラスから構成されるImageNet（ILSVRC2012とも呼ばれる）データセットで教師あり学習により微調整されました。

画像は固定サイズのパッチ（解像度16x16）のシーケンスとしてモデルに入力され、線形埋め込みされます。元のViTモデルとは異なり、BEiTモデルは絶対位置埋め込みではなく相対位置埋め込み（T5と同様）を使用し、[CLS]トークンの最終隠れ状態の上に線形層を配置する代わりに、パッチの最終隠れ状態を平均プーリングして画像の分類を行います。

モデルを事前学習することで、画像の内部表現を学習し、下流タスクに有用な特徴を抽出するために使用できます。たとえば、ラベル付き画像のデータセットがある場合、事前学習されたエンコーダの上に線形層を配置して標準的な分類器を学習することができます。通常、[CLS]トークンの上に線形層を配置します。このトークンの最後の隠れ状態は、画像全体の表現と見なすことができます。あるいは、パッチ埋め込みの最終隠れ状態を平均プーリングし、その上に線形層を配置することもできます。

学習指標

評価指標

📄 ライセンス

このモデルはApache - 2.0ライセンスの下で提供されています。