# 多編程語言代碼生成

StarCoder2-15B是一個150億參數的代碼生成模型，基於600多種編程語言訓練，支持16K上下文窗口和滑動窗口注意力機制。

StarCoderBase-1B是一個10億參數的代碼生成模型，基於80多種編程語言訓練，支持填充中間生成和多查詢注意力機制。

StarCoder-3B是一個擁有30億參數的代碼生成模型，基於80多種編程語言訓練而成，支持填充中間內容和代碼補全。

StarCoderBase是一個155億參數的大規模代碼生成模型，基於80多種編程語言訓練而成，支持代碼補全和生成任務。

PolyCoder是一個擁有27億參數的大語言模型，專門用於代碼生成和理解任務。

PolyCoder是一個擁有1.6億參數的大語言模型，專門針對代碼生成和理解任務進行訓練。