# ビジョントランスフォーマーアーキテクチャ

ビジョントランスフォーマー(ViT)とGPT-2を基にしたクロスモーダルモデルで、入力画像に対する自然言語の説明を生成可能

これはADE20kデータセットでファインチューニングされた密な予測トランスフォーマー（DPT）モデルで、セマンティックセグメンテーションタスクに使用されます。

ビジョントランスフォーマー(Vision Transformers)を基に構築された画像分類器で、5種類の大型ネコ科動物を正確に識別できます。

BEiTはビジョントランスフォーマーアーキテクチャに基づく画像セグメンテーションモデルで、自己教師あり事前学習とADE20kデータセットによるファインチューニングにより効率的なセマンティックセグメンテーションを実現します。