# 多檢查點追蹤

Pythia-1B是EleutherAI開發的可解釋性研究專用語言模型，屬於Pythia套件中的10億參數規模版本，基於The Pile數據集訓練。

Pythia-12B是EleutherAI開發的可擴展語言模型套件中的最大模型，擁有120億參數，專為促進大語言模型科學研究而設計

Pythia-6.9B是EleutherAI開發的大規模語言模型，屬於Pythia可擴展套件的一部分，專為促進可解釋性研究而設計。

Pythia-10億去重版是EleutherAI開發的可解釋性研究專用語言模型，基於去重Pile數據集訓練，採用Transformer架構，參數規模10億

Pythia是EleutherAI開發的一系列因果語言模型，專為可解釋性研究設計，包含從7000萬到120億參數的8種規模，提供154個訓練檢查點

Pythia-28億是EleutherAI開發的可擴展語言模型套件中的一員，專為促進大語言模型的可解釋性研究而設計。該模型基於Transformer架構，在The Pile數據集上訓練，具有28億參數。

Pythia-1.4B是EleutherAI開發的12億參數因果語言模型，屬於Pythia規模套件的一部分，專為可解釋性研究設計。

Pythia-160M是EleutherAI開發的可解釋性研究專用語言模型，屬於Pythia套件中的160M參數規模版本，基於Transformer架構，訓練於Pile數據集。