# 長系列モデリング

Transformersライブラリを用いてファインチューニングされた言語モデル、具体的なトレーニングデータセットは明記されていません

Allegroはオープンソースの高品質なテキストから動画を生成するモデルで、2秒から6秒、15 FPSの詳細な動画を生成でき、複数の解像度をサポートしています。

PatchTSTは時系列予測タスクに特化した事前学習済みの時系列基盤モデルです。

ヴァイキング7Bは70億パラメータのTransformerモデルで、フィンランド語、北欧言語およびプログラミングコードの処理に特化し、2兆トークンのトレーニングを基にしています。

Perceiver ARアーキテクチャに基づくシンボリックオーディオモデルで、GiantMIDI-Pianoデータセットで事前学習され、シンボリックオーディオ生成に使用されます

TimeSformerは時空間アテンション機構に基づくビデオ理解モデルで、高解像度バリアントはKinetics-600データセット向けに特別にファインチューニングされています。