# 32K上下文

Qwen3-4B-Base是通義千問系列最新一代40億參數大語言模型，基於36萬億token的多語言數據預訓練，支持32k上下文長度。

Oryx-1.5-7B是基於Qwen2.5語言模型開發的7B參數模型，支持32K tokens上下文窗口，專注於高效處理任意空間尺寸和時長的視覺輸入。

Orcamaid v3 13B 32K 是一個基於 Llama 架構的大語言模型，支持 32K 序列長度，適用於文本生成任務。

Nanbeige 16B Base 32K是由Nanbeige LLM Lab開發的大語言模型，支持中英文，具有32K上下文長度，適用於多種文本生成任務。