# 自己回帰生成

Janus-Proは、マルチモーダル理解と生成を統一する新しい自己回帰フレームワークです。視覚エンコーディングパスを分離し、単一の統一Transformerアーキテクチャを使用してマルチモーダルタスクを処理します。

Ankh3はT5アーキテクチャに基づくタンパク質言語モデルで、マスク言語モデリングと配列補完タスクを連合最適化することで事前学習され、タンパク質の特徴抽出と配列分析に適しています。

これはマイクロソフトのKosmos-2モデルを微調整したマルチモーダルモデルで、ポケモンカードのポケモン名を識別するために特別に設計されています。

Yi-Ko-6Bは01-ai/Yiモデルの進化版で、語彙表を拡張し韓国語/英語コーパスを追加事前学習した韓英バイリンガルテキスト生成をサポートします。

巨人120Bは、2つのファインチューニングされたLlama-2 70Bモデルを統合して作成された自己回帰的因果言語モデルで、対話型タスクをサポートします。

分子言語SELFIESに基づいて構築された大規模分子生成モデルで、新規分子の生成や部分的な分子構造の補完に使用可能です。

Salesforce AI Researchがリリースした7Bパラメータの大規模言語モデル、8Kの長いシーケンス入力をサポート、Apache-2.0ライセンスでオープンソース

MusicGenはテキスト説明またはオーディオプロンプトに基づいて高品質な音楽サンプルを生成するテキストから音楽へのモデルで、15億パラメータの自己回帰型Transformerアーキテクチャを採用しています。

LLaMAはMeta AIが開発した効率的な基盤言語モデルで、7Bから65Bまでの異なるパラメータ規模を提供し、Transformerアーキテクチャに基づき、様々な自然言語処理タスクに適用可能です。

BioMedLM 2.7Bは、生物医学テキストに特化してトレーニングされた27億パラメータの言語モデルで、生物医学NLPタスクで優れた性能を発揮します。

DonutはOCRを必要としないドキュメント理解Transformerモデルで、視覚エンコーダーとテキストデコーダーを組み合わせて画像からテキストへの変換を処理します

DonutはOCRを必要としない文書理解Transformerモデルで、視覚エンコーダー(Swin Transformer)とテキストデコーダー(BART)で構成されています。

s2t-small-librispeech-asr は自動音声認識（ASR）のための音声からテキストへの変換（S2T）モデルで、シーケンス・ツー・シーケンスのトランスフォーマーアーキテクチャに基づいています。

自動音声認識(ASR)のための音声からテキストへの変換(S2T)モデル

自動音声認識(ASR)のための音声からテキストへの変換(S2T)モデルで、シーケンス・ツー・シーケンス変換アーキテクチャに基づいています

s2t-small-librispeech-asr は、自動音声認識（ASR）のための音声からテキストへの変換器（S2T）モデルで、シーケンス・ツー・シーケンス変換器アーキテクチャに基づいています。

自動音声認識（ASR）のための音声からテキストへの変換（S2T）モデルで、シーケンス・ツー・シーケンス変換アーキテクチャに基づいています

LibriSpeechデータセットでトレーニングされた自動音声認識(ASR)のためのエンドツーエンドシーケンス・ツー・シーケンストランスフォーマーモデル

Borisは、GPT - Jアーキテクチャに基づく、60億パラメータを持つ自己回帰型言語モデルで、フランス語テキスト処理に特化しています。

REBELは、BARTベースのシーケンス-to-シーケンスモデルで、エンドツーエンドの関係抽出に使用され、200種類以上の異なる関係タイプをサポートします。