# 70B參數量

這是一個基於LLaMa-70B架構的多模型融合實驗項目，採用DARE TIES融合方法，結合了6個不同版本的MO-MODEL模型。

Llama 3.3 70B Instruct AWQ INT4 是 Meta Llama 3.3 70B Instruct 模型的 4 位量化版本，適用於多語言對話用例，優化了文本生成任務。

Llama 3.1 70B Instruct的INT4量化版本，基於AutoAWQ技術優化，適用於多語言對話場景。

AkaLlama是基於Meta-Llama-3-70b-Instruct微調的韓語大模型，專注於多任務實際應用

DiscoLM 70b是基於Laion的LeoLM 70b開發的70B參數多語言模型，通過額外德語文本預訓練和指令微調強化了英語和德語能力

Meditron-70B是基於Llama-2-70B通過醫療領域持續預訓練的開源大語言模型，專注於醫療知識編碼和推理任務。

qCammel 70是基於Llama 2架構的大語言模型，由augtoma開發，TheBloke進行量化處理。該模型專注於文本生成任務，提供多種量化版本以適應不同硬件需求。