# 混合専門家アーキテクチャ

Apollo2-7B-GGUFはFreedomIntelligence/Apollo2-7Bの量子化バージョンで、複数の言語に対応した医学大規模言語モデルアプリケーションをサポートします。

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、一連の高密度型および混合専門家（MoE）モデルを提供しています。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

Qwen3-30B-A3B混合専門家モデルのGGUF量子化バージョンで、コンテキストを128kに拡張し、NEO Imatrix量子化技術を採用して最適化され、多言語および多タスク処理をサポートします。

Qwen3-30B-A3B混合専門家モデルをベースにした微調整バージョンで、アクティブな専門家の数を8個から24個に増やし、深度推論が必要な複雑なタスクに適しています。

千問3-30B-A3Bをベースにした混合専門家モデルの微調整版で、活性化専門家数を16に増加、コンテキストウィンドウを128kに拡張し、複雑な推論シナリオに適しています

Granite-4.0-Tiny-Base-PreviewはIBMが開発した70億パラメータの混合専門家(MoE)言語モデルで、128kトークンのコンテキストウィンドウを持ち、Mamba-2技術で表現力を強化しています。

Qwen3はアリババクラウドが開発した最新の大規模言語モデルシリーズで、思考モードと非思考モードの動的切り替えをサポートし、推論、多言語サポート、エージェント能力において優れた性能を発揮します。

Qwen3-0.6B-Baseは通義千問シリーズの最新世代の大規模言語モデルで、一連の密集モデルと混合専門家（MoE）モデルを提供します。

Qwenによって開発された大規模言語モデルで、131,072トークンの文脈長をサポートし、創造的執筆、ロールプレイ、多輪対話に優れています。

Qwenチームが開発した2350億パラメータの大規模言語モデルの量子化バージョン、131kの文脈長と混合専門家アーキテクチャをサポート

Qwen3は通義千問シリーズの大規模言語モデルの最新バージョンで、完全な密モデルと混合専門家(MoE)モデルの組み合わせを提供します。大規模なトレーニングに基づき、Qwen3は推論能力、命令追従、エージェント機能、多言語サポートにおいて画期的な進歩を実現しました。

MAI-DS-R1はDeepSeek-R1推論モデルで、マイクロソフトAIチームによる追加トレーニングを受け、制限トピックへの応答能力を向上させ、リスクパフォーマンスを最適化しながら、推論能力と競争力を維持しています。

調整可能な推論能力を備えた混合専門家(MoE)モデルで、4つの8Bモデルの協調により推論とテキスト生成能力を強化

MAI-DS-R1はマイクロソフトAIチームがDeepSeek-R1推論モデルに対して追加学習を行った成果で、センシティブな話題への応答能力を向上させリスク対応を最適化するとともに、元の推論能力と競争優位性を維持しています。

Llama 4 ScoutはMetaが発表した170億パラメータのマルチモーダルAIモデルで、混合専門家アーキテクチャを採用し、12言語と画像理解をサポートします。

Llama 4 MaverickはMetaが開発した170億パラメータのマルチモーダルAIモデルで、混合専門家アーキテクチャ(MoE)を採用し、多言語テキストと画像理解をサポート、128の専門家モジュールを備えています。

国立情報学研究所が開発した大規模日本語-英語混合MoE言語モデルで、8x13Bパラメータ規模をサポートし、命令微調整最適化済み

これは多言語混合専門家(MoE)テキスト埋め込みモデルの中間バージョンで、多段階の対照学習によって得られました

NorwAI-Mixtral-8x7Bをベースに指令調整を行ったノルウェー語の大規模言語モデルで、約9000件の高品質なノルウェー語指令で最適化されています。

KARAKURI社が開発した混合専門家モデル(MoE)、英語と日本語の対話をサポート、Swallow-MX-8x7b-NVE-v0.1をファインチューニング

MGM-7BはVicuna-7B-v1.5をベースに訓練されたオープンソースのマルチモーダルチャットボットで、高精細画像の理解、推論、生成をサポートします。

Swallow-MX-8x7b-NVE-v0.1はMixtral-8x7B-Instruct-v0.1を基に継続事前学習を行った混合専門家モデルで、主に日本語能力を強化しています。

Mixtral 8x7BをファインチューニングしたGGUF形式モデル、Koboldcpp専用に設計、トレーニングデータには約3000冊の多ジャンル電子書籍を含む

orthogonal-2x7B-v2-baseは、Mistral-7B-Instruct-v0.2とSanjiWatsuki/Kunoichi-DPO-v2-7Bを基にした混合専門家モデルで、テキスト生成タスクに特化しています。

Mixtral-8x7B-v0.1をファインチューニングしマージした実験的モデル、8Kコンテキスト長をサポート、ChatMLプロンプト形式を採用

NLLB-MoEはMetaが開発した混合専門家機械翻訳モデルで、200言語をサポートし、現在最も先進的なオープンアクセス機械翻訳モデルの一つです。