Xclip Large Patch14

🚀 X-CLIP (大型モデル)

X-CLIPモデル（大型、パッチ解像度14）は、Kinetics-400 データセットで完全教師付き学習されました。このモデルは、Niらによる論文 Expanding Language-Image Pretrained Models for General Video Recognition で紹介され、最初は このリポジトリ で公開されました。

このモデルは、各ビデオにつき8フレームを使用し、解像度224x224で学習されています。

免責事項：X-CLIPを公開したチームはこのモデルのモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されました。

✨ 主な機能

X-CLIPは、一般的なビデオと言語の理解のために CLIP を最小限拡張したモデルです。このモデルは、（ビデオ、テキスト）のペアで対照的に学習されています。

これにより、このモデルはゼロショット、フューショット、または完全教師付きのビデオ分類やビデオ - テキスト検索などのタスクに使用できます。

📚 ドキュメント

想定される用途と制限

生のモデルを使用して、与えられたビデオとテキストの適合度を判断することができます。関心のあるタスクに関するファインチューニング済みのバージョンを探すには、モデルハブ を参照してください。

使い方

コード例については、ドキュメント を参照してください。

学習データ

このモデルは Kinetics-400 データセットで学習されました。

前処理

学習時の前処理の詳細は こちら で確認できます。 検証時の前処理の詳細は こちら で確認できます。

検証時には、各フレームの短辺をリサイズした後、固定サイズの解像度（例：224x224）にセンタークロップを行います。次に、フレームをImageNetの平均と標準偏差を用いてRGBチャンネル全体で正規化します。

評価結果

このモデルは、トップ1精度87.1%、トップ5精度97.6%を達成しています。

📄 ライセンス

このモデルはMITライセンスの下で公開されています。

モデル情報