# 70Bパラメータ

これはLLaMa-70Bアーキテクチャを基にしたマルチモデル融合実験プロジェクトで、DARE TIES融合手法を用いて6つの異なるバージョンのMO-MODELモデルを組み合わせています。

Llama 3.3 70B Instruct AWQ INT4 は、Meta Llama 3.3 70B Instructモデルの4ビット量子化バージョンで、多言語対話ユースケースに適しており、テキスト生成タスクを最適化しています。

Llama 3.1 70B InstructのINT4量子化バージョン、AutoAWQ技術に基づいて最適化され、多言語対話シナリオに適しています。

AkaLlamaはMeta-Llama-3-70b-Instructをファインチューニングした韓国語大規模モデルで、マルチタスクの実用アプリケーションに特化

Meditron-70BはLlama-2-70Bを基に医療分野の継続事前学習を行ったオープンソース大規模言語モデルで、医療知識の符号化と推論タスクに特化しています。

qCammel 70はLlama 2アーキテクチャに基づく大規模言語モデルで、augtomaによって開発され、TheBlokeによって量子化処理されました。このモデルはテキスト生成タスクに特化しており、さまざまなハードウェア要件に対応するために複数の量子化バージョンを提供しています。