Hiera Base 224

🚀 Hiera (hiera_base_224)

Hieraは階層型トランスフォーマーで、以前のシリーズの階層型トランスフォーマー（ConvNeXTやSwin）に比べてはるかに効率的な代替案です。従来のトランスフォーマーアーキテクチャは、MAEのような事前学習戦略を可能にするシンプルで拡張性のあるアーキテクチャですが、ネットワーク全体で同じ空間解像度とチャネル数を使用するため、パラメータの利用効率が低いという問題があります。これに対し、HieraはMAEを訓練することでモデルに空間的なバイアスを教えることで、この問題を解決しようとしています。

🚀 クイックスタート

Hieraは、階層型トランスフォーマーの新しいアプローチです。このモデルは、以前の階層型トランスフォーマーに比べて、より効率的にパラメータを利用することができます。

Vanillaトランスフォーマーアーキテクチャ（Dosovitskiy et al. 2020）は、MAE（He et al., 2022）などの事前学習戦略を可能にする、非常に人気がありながらもシンプルで拡張性のあるアーキテクチャです。しかし、これらのアーキテクチャはネットワーク全体で同じ空間解像度とチャネル数を使用するため、ViTはパラメータを非効率的に使用しています。これは、初期段階ではより少ないチャネル数と高い空間解像度を使用し、後段ではより多くのチャネル数と低い空間解像度を使用する、以前の「階層型」または「マルチスケール」モデル（例えば、Krizhevsky et al. (2012); He et al. (2016)）とは対照的です。

これらのモデルは非常に複雑で、ImageNet - 1kで最先端の精度を達成するためにオーバーヘッド操作が追加されるため、モデルが遅くなります。Hieraは、MAEを訓練することでモデルに空間的なバイアスを教えることで、この問題を解決しようとしています。

📄 ライセンス

このプロジェクトは、CC - BY - NC - 4.0ライセンスの下で提供されています。