# 日本語強化

Gemma-2アーキテクチャを基にした日本語強化大規模言語モデル。継続的な事前学習により日本語能力を大幅に向上させつつ、元の英語能力を保持

Gemma-2-Llama-Swallowシリーズのモデルは、Gemma-2をベースに持続的な事前学習を行って構築された多言語大規模モデルで、特に日本語能力が強化されています。

Gemma-2-Llama-Swallowシリーズはgemma-2モデルを継続的に事前学習することで構築され、日本語処理能力を大幅に強化しながら、元の英語能力を保持しています。

TIES手法で融合された多言語Gemma-2モデルで、複数の専門分野の知識を統合

Linkbricks Horizon - AIによって開発された日本語強化言語モデルで、70Bのパラメータ規模に基づき、日本語、韓国語、中国語、英語の多言語処理をサポートし、論理推論と多言語タスクに長けています。

Swallow-MX-8x7b-NVE-v0.1はMixtral-8x7B-Instruct-v0.1を基に継続事前学習を行った混合専門家モデルで、主に日本語能力を強化しています。

Swallow-MS-7b-v0.1はMistral-7B-v0.1を基に継続事前学習した日本語強化モデルで、TokyoTech-LLMによって開発され、日本語タスクで優れた性能を発揮します。