# 長文脈推論

DeepSeek R1 0528のAWQ量子化モデルで、vLLMを使用して8基の80GB GPUでフルコンテキスト長で実行可能です。

QwenLong-L1は強化学習でトレーニングされた長文脈推論モデルで、7つの長文脈文書質問応答ベンチマークテストで優れた性能を発揮しています。

NVIDIAがリリースした40億パラメータ規模の大規模言語モデルで、128kトークンのコンテキスト長をサポートし、推論、対話、RAGなどのタスクに最適化されています

AM Thinking v1はA-Mチームによって開発されたQwen 2.5-32B-Baseベースの大規模言語モデルで、推論能力が強化され、132kトークンのコンテキスト長をサポートします。

Qwen3-14B大規模言語モデルを基にした高性能GGUF変換バージョンで、創造的推論、深層夢ロジック、エージェントインタラクション、多言語指示に最適化されています

dots.llm1は大規模なMoEモデルで、総パラメータ1420億のうち140億のパラメータを活性化し、性能は最先端のモデルに匹敵します。

50以上の専門データセットで微調整された多機能モデル、クリエイティブタスクや技術的課題に強く、10言語をサポート

50以上の専門データセットで微調整された多機能モデルシリーズで、創造的タスクと技術的課題の両方で優れたパフォーマンスを発揮

Qwen2.5-Math-7B-RoPE-300kはQwen2.5-Math-7Bをベースとしたバリエーションで、回転位置符号化の基本周波数を調整することで、文脈長を32kトークンまで拡張しています。

Phi-4推論強化版はマイクロソフトリサーチが開発した140億パラメータのオープンソース推論モデルで、教師あり微調整と強化学習による最適化を経ており、数学、科学、プログラミング分野の高度な推論能力に特化しています。

これはQwen3-4Bモデルを基にしたNEO Imatrix量子化バージョンで、BF16フォーマットのMAX出力テンソルを使用して推論と出力生成能力を向上させ、32kの文脈長をサポートします。

Qwen3-30B-A3B-Baseは通義千問シリーズ最新世代の30.5Bパラメータ規模の混合エキスパート（MoE）大規模言語モデルで、119言語と32kの文脈長をサポートします。

Qwen3-0.6Bは通義千問シリーズ最新世代の0.6Bパラメータ規模の大規模言語モデルで、思考モードと非思考モードの切り替えをサポートし、強力な推論、命令追従、インテリジェントエージェント能力を備えています。

Qwen2.5 14Bモーダルアーキテクチャに基づいて設計された強化推論モデルで、汎用推論と質問応答シナリオを最適化し、128K文脈と8K出力をサポート

Llama 3 70Bアーキテクチャを基にしたマージモデルで、ストーリー生成とロールプレイに最適化されており、長文脈ウィンドウをサポート

Gemma3-R1984-4BはGoogleのGemma-3-4Bモデルを基に構築された強力なエージェントAIプラットフォームで、マルチモーダルファイル処理と深層研究能力をサポートします。

IBM-Graniteの20億パラメータ指導モデル、多言語と長文脈タスクをサポートし、構造化推論能力を備える。

Llama 4シリーズはMetaが開発したマルチモーダルAIモデルで、テキストと画像のインタラクションをサポートし、混合エキスパートアーキテクチャ(MoE)を採用しており、テキストと画像理解において業界をリードする性能を発揮します。

Raptor-X5-UIGENはQwen 2.5 14Bモダリティアーキテクチャを基に設計された大規模言語モデルで、UI設計、ミニマルコーディング、コンテンツ集約型開発に特化し、強化された推論能力と構造化された応答生成を備えています。

Granite-3.2-2B-Instructは20億パラメータの長文脈AIモデルで、思考推論能力に特化してファインチューニングされています。Granite-3.1-2B-Instructを基盤とし、緩やかなライセンスのオープンソースデータセットと内部生成の合成データを混合使用してトレーニングされ、推論タスクのパフォーマンス向上を目的としています。

Theta-Lyrae-Qwen-14BはQwen 2.5 14Bモーダルアーキテクチャを基に設計された140億パラメータモデルで、汎用推論と質問応答能力を最適化し、文脈理解、論理的推論、多段階問題解決において優れた性能を発揮します。

Galactic-Qwen-14B-Exp2はQwen 2.5 14Bアーキテクチャに基づいて設計された大規模言語モデルで、推論能力の強化に焦点を当て、文脈理解、論理的推論、多段階問題解決に優れています。

RombUltima-32B は融合モデルで、Rombos-LLM-V2.5-Qwen-32b と Ultima-32B の利点を組み合わせ、推論能力、多言語理解能力、および多輪対話のパフォーマンスを最適化しています。

ModernBERTはマルチタスクソースの自然言語推論（NLI）タスクでファインチューニングされたモデルで、ゼロショット分類と長文脈推論に優れています。

GGUF形式に基づく無審査ロールプレイングモデルで、優れた推論と文脈追跡能力を持ち、ローカルAIチャットアプリに適しています。

C4AI Command R+は1040億パラメータの多言語大規模言語モデルで、検索拡張生成(RAG)とツール呼び出しをサポートし、推論、要約、質問応答などのタスクに最適化されています。

Command R+はCohere Labsが提供する1040億パラメータのオープンウェイト研究版モデルで、検索拡張生成（RAG）とツール使用機能を備え、多言語対応と多段階タスク自動化をサポートします。

Code LlamaはMetaが提供する70億から700億パラメータ規模のコード生成・理解モデルシリーズで、本モデルは700億パラメータのベーシック版

Einstein-v4-7BはMistral-7B-v0.1を多様な科学データセットで完全にファインチューニングした大規模言語モデルで、STEM分野のタスクに特化しています

TinyLlama-1.1Bベースの32k文脈ファインチューニング版、rope thetaの拡張により長文脈処理能力を実現

Mixtral-8x7Bは事前学習済みの生成的スパース混合エキスパートモデルで、ほとんどのベンチマークテストでLlama 2 70Bを上回る性能を示しています。

T5アーキテクチャに基づくエンコーダー-デコーダーモデルで、Flanプロンプトチューニングにより最適化され、多言語タスク処理をサポート