# 自迴歸生成

Janus-Pro 是一種新穎的自迴歸框架，統一了多模態理解和生成。它通過解耦視覺編碼路徑，使用單一的統一 Transformer 架構處理多模態任務。

Ankh3是一個基於T5架構的蛋白質語言模型，通過聯合優化掩碼語言建模和序列補全任務進行預訓練，適用於蛋白質特徵提取和序列分析。

這是一個基於微軟Kosmos-2模型微調的多模態模型，專門用於識別寶可夢卡牌中的寶可夢名稱。

Yi-Ko-6B是01-ai/Yi模型的進階版本，通過擴展詞彙表並加入韓語/英語語料進行進一步預訓練，支持韓英雙語文本生成。

巨人120B是通過合併兩個經過微調的Llama-2 70B模型創建的自迴歸因果語言模型，支持對話式任務。

基於分子語言SELFIES構建的大型分子生成模型，可用於從頭生成分子或補全部分分子結構。

Salesforce AI Research發佈的7B參數大語言模型，支持8K長序列輸入，基於Apache-2.0協議開源

MusicGen是一款基於文本描述或音頻提示生成高質量音樂樣本的文本轉音樂模型，採用15億參數的自迴歸Transformer架構。

LLaMA是Meta AI開發的高效基礎語言模型，提供7B到65B不同參數量級，基於Transformer架構，適用於多種自然語言處理任務。

BioMedLM 2.7B 是一個專門針對生物醫學文本訓練的 27 億參數語言模型，在生物醫學 NLP 任務中表現出色。

Donut是一種無需OCR的文檔理解Transformer模型，結合視覺編碼器和文本解碼器處理圖像到文本的轉換

Donut是一種無需OCR的文檔理解Transformer模型，由視覺編碼器(Swin Transformer)和文本解碼器(BART)組成。

s2t-small-librispeech-asr 是一個用於自動語音識別（ASR）的語音到文本轉換器（S2T）模型，基於序列到序列的轉換器架構。

一個用於自動語音識別(ASR)的語音到文本轉換器(S2T)模型

一個用於自動語音識別(ASR)的語音到文本轉換器(S2T)模型，基於序列到序列轉換器架構

s2t-small-librispeech-asr 是一個用於自動語音識別（ASR）的語音到文本轉換器（S2T）模型，基於序列到序列轉換器架構。

一個用於自動語音識別(ASR)的端到端序列到序列轉換器模型，基於LibriSpeech數據集訓練

一個用於自動語音識別（ASR）的語音到文本轉換器（S2T）模型，基於序列到序列轉換器架構

Boris 是一個基於 GPT-J 架構、擁有60億參數的自迴歸語言模型，專注於法語文本處理。

REBEL是一種基於BART的序列到序列模型，用於端到端關係抽取，支持200多種不同關係類型。