Xclip Large Patch14 Kinetics 600

🚀 X-CLIP (大型モデル)

X-CLIPは、Kinetics-600で完全教師付き学習された大型モデル（パッチ解像度14）です。このモデルは、Niらによる論文Expanding Language-Image Pretrained Models for General Video Recognitionで紹介され、このリポジトリで最初に公開されました。

このモデルは、各ビデオにつき8フレームを使用し、解像度224x224で学習されています。

免責事項: X-CLIPを公開したチームはこのモデルのモデルカードを作成していないため、このモデルカードはHugging Faceチームによって作成されています。

🚀 クイックスタート

X-CLIPは、一般的なビデオ言語理解のためにCLIPを最小限拡張したモデルです。このモデルは、（ビデオ、テキスト）のペアに対して対照的な方法で学習されています。

これにより、このモデルはゼロショット、フューショット、または完全教師付きのビデオ分類やビデオテキスト検索などのタスクに使用できます。

✨ 主な機能

• ゼロショット、フューショット、完全教師付きのビデオ分類やビデオテキスト検索などのタスクに使用可能。
• ビデオとテキストの関連性を評価できる。

📚 ドキュメント

想定される用途と制限

生のモデルを使用して、与えられたビデオとテキストの適合度を判断できます。興味のあるタスクでファインチューニングされたバージョンを探すには、モデルハブを参照してください。

使い方

コード例については、ドキュメントを参照してください。

学習データ

このモデルは、Kinetics-600で学習されています。

前処理

学習時の前処理の詳細はこちら、検証時の前処理の詳細はこちらで確認できます。

検証時には、各フレームの短辺をリサイズした後、固定サイズの解像度（例：224x224）に中央切り抜きを行います。次に、フレームはImageNetの平均と標準偏差を用いてRGBチャンネル全体で正規化されます。

評価結果

このモデルは、トップ1精度88.3%、トップ5精度97.7%を達成しています。

📄 ライセンス

このモデルはMITライセンスの下で公開されています。