# 兩階段訓練

採用RoPE的ViT圖像分類模型，經過CAPI預訓練和ImageNet-21K微調，適用於圖像分類和檢測任務。

LaMaTE是基於Llama-3-8B開發的高性能高效翻譯模型，利用大語言模型作為機器翻譯編碼器，搭配輕量級解碼器。

瑞典國家圖書館發佈的Whisper模型，專為瑞典語優化，在50,000+小時瑞典語音數據上訓練，性能超越OpenAI原版

Bamba-9B 是基於 Mamba-2 架構的解碼器專用語言模型，經過兩階段訓練，擅長處理廣泛的文本生成任務。

K2是一個650億參數規模的大語言模型，通過完全透明化的訓練方案，以35%計算量優勢超越Llama 2 70B。

Dragoman 是一個句子級別的英烏翻譯模型，採用兩階段訓練流程，在FLORES-101英烏開發測試子集上取得了BLEU值為32.34的最優性能。

Ahma-7B是基於Meta Llama(v1)架構的70億參數僅解碼器Transformer模型，完全使用芬蘭語從頭預訓練。

Animagine XL 3.0 基礎版是先進動漫文本生成圖像模型的基礎版本，專注於建立核心功能並完善關鍵方面。