Intellect 2

🚀 INTELLECT-2

Prime Intellectによって開発されたINTELLECT-2は、世界中から寄付されたGPUリソースを用いて分散強化学習により学習された、320億パラメータの大規模言語モデル（LLM）です。Qwen2アーキテクチャをベースに構築され、prime-rlフレームワークで微調整されており、数学、コーディング、論理推論などの分野で高い性能を発揮します。

このモデルは、検証可能な報酬に基づくGRPO（Generalized Reinforcement Policy Optimization）を活用し、強化された安定性技術を用いた非同期分散型強化学習を導入しています。主に検証可能な数学的タスクやコーディングタスクに焦点を当てていますが、汎用的なテキスト生成タスクにも対応しています。

✨ 主な機能

• 高性能な言語処理能力：数学、コーディング、論理推論などの分野で高い性能を発揮します。
• 分散強化学習：世界中から寄付されたGPUリソースを用いて分散強化学習により学習されています。
• GRPOアルゴリズム：検証可能な報酬に基づくGRPOアルゴリズムを活用し、強化された安定性技術を用いた非同期分散型強化学習を行っています。

📦 インストール

Jan (UI)を使用する場合

1. クイックスタートを参考にJanをインストールします。
2. Janモデルハブで以下のコマンドを使用します。

cortexso/intellect-2

Cortex (CLI)を使用する場合

1. クイックスタートを参考にCortexをインストールします。
2. 以下のコマンドでモデルを実行します。

cortex run intellect-2

💻 使用例

Jan (UI)を使用する場合

1. Janを起動します。
2. モデルハブからcortexso/intellect-2を選択します。
3. テキストを入力してモデルを使用します。

Cortex (CLI)を使用する場合

1. Cortexを起動します。
2. 以下のコマンドでモデルを実行します。

cortex run intellect-2

📚 ドキュメント

バリアント

INTELLECT-2

各ブランチには、様々なハードウェア構成に最適化された複数のGGUF量子化バージョンが含まれています。

• INTELLECT-2-32B: q2_k, q3_k_l, q3_k_m, q3_k_s, q4_k_m, q4_k_s, q5_k_m, q5_k_s, q6_k, q8_0

🔧 技術詳細

このモデルは、GRPO（Generalized Reinforcement Policy Optimization）を用いて検証可能な報酬に基づいてトレーニングされています。非同期分散型強化学習を導入し、強化された安定性技術を用いることで、数学的タスクやコーディングタスクでの性能を向上させています。

📄 ライセンス

• 著者: Prime Intellect
• 変換者: Menlo Research
• 元のライセンス: Apache-2.0
• 論文: Intellect 2 Technical Report