# 預訓練基礎模型

Chronos-Bolt是一系列預訓練時間序列預測模型，支持零樣本預測，基於T5編碼器-解碼器架構，訓練數據涵蓋近千億時間序列觀測點。

Chronos-Bolt是一系列預訓練時間序列預測模型，支持零樣本預測，基於T5編碼器-解碼器架構，訓練數據涵蓋近千億時間序列觀測值。

Chronos-Bolt是一系列基於T5架構的預訓練時間序列基礎模型，通過創新分塊編碼和直接多步預測實現高效時序預測

Chronos-Bolt是一系列可用於零樣本預測的預訓練時間序列預測模型，基於T5編碼器-解碼器架構，在近1000億條時間序列觀測數據上訓練。

Chronos-Bolt是一系列預訓練時間序列預測模型，支持零樣本預測，基於T5編碼器-解碼器架構，訓練數據涵蓋近千億時間序列觀測點。

Chronos-Bolt是一系列預訓練的時間序列預測模型，支持零樣本預測，精度高且推理速度快。

PatchTST是一個預訓練的時間序列基礎模型，專注於時間序列預測任務。

BritLLM是一個未經加工的預訓練模型，支持多種英國本土語言，適用於多種自然語言處理任務，但需要進一步微調以適應大多數使用場景。

Moirai-1.1-R是Salesforce推出的時間序列預測基礎模型，針對低頻數據預測性能顯著提升。

Zamba-7B-v1-phase1是狀態空間模型Mamba與Transformer的混合架構，以Mamba為主幹網絡，每6個模塊共享一個Transformer層，通過下一詞預測進行訓練。

Minerva-1B-base-v1.0是由Sapienza NLP與FAIR及CINECA合作開發的10億參數意英雙語大語言模型，基於2000億token（各1000億意/英）訓練

Mixtral-8x22B是一個預訓練的生成式稀疏混合專家模型，支持多種語言。

VBART 是首個基於土耳其語語料庫從頭開始大規模預訓練的序列到序列大型語言模型，由 VNGRS 開發。

VBART是首個基於土耳其語語料庫從頭開始大規模預訓練的序列到序列大型語言模型，由VNGRS開發。

Chronos-T5是基於語言模型架構的預訓練時間序列預測模型，通過將時間序列轉換為標記序列並利用交叉熵損失訓練語言模型，實現概率預測。