🚀 OpenReasoning-Nemotron-14Bの概要

OpenReasoning-Nemotron-14Bは、大規模言語モデル（LLM）であり、Qwen2.5-14B-Instruct（参照モデル）の派生モデルです。これは、数学、コード、科学の解決策生成に関する推論のために事後学習された推論モデルです。このモデルは、64Kトークンのコンテキスト長をサポートしています。OpenReasoningモデルは、1.5B、7B、14B、32Bのサイズで利用可能です。

このモデルは、商用/非商用の研究用途に使用できます。

ライセンス/利用規約

支配条項：上記のモデルの使用は、Creative Commons Attribution 4.0 International License (CC-BY-4.0)に準拠します。追加情報：Apache 2.0 License

推論ベンチマークでのスコア

当社のモデルは、一連の困難な推論ベンチマークで卓越した性能を発揮しています。7B、14B、32Bのモデルは、それぞれのサイズクラスで常に新しい最先端記録を樹立しています。

* これは人工分析インテリジェンス指数の当社の推定値であり、公式のスコアではありません。

* LiveCodeBenchバージョン6、期間2408 - 2505。

複数エージェントの作業の組み合わせ

OpenReasoning-Nemotronモデルは、複数の並列生成を開始し、生成的解選択（GenSelect）を介してそれらを組み合わせる「重い」モードで使用できます。この「スキル」を追加するために、元のGenSelectトレーニングパイプラインに従いますが、選択の要約については学習せず、代わりにDeepSeek R1 0528 671Bの完全な推論トレースを使用します。数学の問題に対する最良の解を選択するようにモデルを学習させるだけですが、驚くべきことに、この機能がコードと科学の質問に直接一般化されることがわかりました！この「重い」GenSelect推論モードでは、OpenReasoning-Nemotron-32Bモデルが数学とコーディングのベンチマークでO3（High）を上回ります。

💻 使用例

基本的な使用法

import transformers
import torch
model_id = "nvidia/OpenReasoning-Nemotron-14B"
pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)
# コード生成プロンプト
prompt = """You are a helpful and harmless assistant. You should think step-by-step before responding to the instruction below.
Please use python programming language only.
You must use ```python for just the final solution code block with the following format:
```python
# Your code here

{user} """

数学生成プロンプト

prompt = """Solve the following math problem. Make sure to put the answer (and only answer) inside \boxed{}.

{user}

"""

科学生成プロンプト

You can refer to prompts here -

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/generic/hle.yaml (HLE)

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/eval/aai/mcq-4choices-boxed.yaml (for GPQA)

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/eval/aai/mcq-10choices-boxed.yaml (MMLU-Pro)

messages = [ { "role": "user", "content": prompt.format(user="Write a program to calculate the sum of the first $N$ fibonacci numbers")}, ] outputs = pipeline( messages, max_new_tokens=64000, ) print(outputs[0]["generated_text"][-1]['content'])

## 引用
もしこのデータが有用であると思われた場合は、以下を引用してください。

@article{ahmad2025opencodereasoning, title={OpenCodeReasoning: Advancing Data Distillation for Competitive Coding}, author={Wasi Uddin Ahmad, Sean Narenthiran, Somshubra Majumdar, Aleksander Ficek, Siddhartha Jain, Jocelyn Huang, Vahid Noroozi, Boris Ginsburg}, year={2025}, eprint={2504.01943}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2504.01943}, }

@misc{ahmad2025opencodereasoningiisimpletesttime, title={OpenCodeReasoning-II: A Simple Test Time Scaling Approach via Self-Critique}, author={Wasi Uddin Ahmad and Somshubra Majumdar and Aleksander Ficek and Sean Narenthiran and Mehrzad Samadi and Jocelyn Huang and Siddhartha Jain and Vahid Noroozi and Boris Ginsburg}, year={2025}, eprint={2507.09075}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2507.09075}, }

@misc{moshkov2025aimo2winningsolutionbuilding, title={AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset}, author={Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman}, year={2025}, eprint={2504.16891}, archivePrefix={arXiv}, primaryClass={cs.AI}, url={https://arxiv.org/abs/2504.16891}, }

## 追加情報

### 展開地域
グローバル

### ユースケース
このモデルは、競技的な数学、コード、科学の問題に取り組む開発者や研究者を対象としています。ベンチマークで高いスコアを達成するために、教師あり微調整のみで学習されています。

### リリース日
Huggingface [07/16/2025] via https://huggingface.co/nvidia/OpenReasoning-Nemotron-14B/

## 参照
* [2504.01943] OpenCodeReasoning: Advancing Data Distillation for Competitive Coding
* [2504.01943] OpenCodeReasoning: Advancing Data Distillation for Competitive Coding
* [2504.16891] AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset

## モデルアーキテクチャ
アーキテクチャタイプ：密なデコーダーのみのTransformerモデル
ネットワークアーキテクチャ：Qwen-14B-Instruct

このモデルは、Qwen2.5-14B-Instructをベースに開発され、14Bのモデルパラメータを持っています。

OpenReasoning-Nemotron-1.5Bは、Qwen2.5-1.5B-Instructをベースに開発され、1.5Bのモデルパラメータを持っています。

OpenReasoning-Nemotron-7Bは、Qwen2.5-7B-Instructをベースに開発され、7Bのモデルパラメータを持っています。

OpenReasoning-Nemotron-14Bは、Qwen2.5-14B-Instructをベースに開発され、14Bのモデルパラメータを持っています。

OpenReasoning-Nemotron-32Bは、Qwen2.5-32B-Instructをベースに開発され、32Bのモデルパラメータを持っています。

## 入力
**入力タイプ**：テキスト
**入力形式**：文字列
**入力パラメータ**：一次元（1D）
**入力に関連するその他の特性**：最大64,000の出力トークンまで学習されています。

## 出力
**出力タイプ**：テキスト
**出力形式**：文字列
**出力パラメータ**：一次元（1D）
**出力に関連するその他の特性**：最大64,000の出力トークンまで学習されています。

当社のAIモデルは、NVIDIA GPUアクセラレーションシステムでの実行を設計および/または最適化されています。NVIDIAのハードウェア（例：GPUコア）とソフトウェアフレームワーク（例：CUDAライブラリ）を活用することで、CPUのみのソリューションと比較して、より高速な学習と推論時間を達成します。

## ソフトウェア統合
* ランタイムエンジン：NeMo 2.3.0
* 推奨ハードウェアマイクロアーキテクチャ互換性：
NVIDIA Ampere
NVIDIA Hopper
* 推奨/サポートされるオペレーティングシステム：Linux

## モデルバージョン
1.0 (7/16/2025)
OpenReasoning-Nemotron-32B
OpenReasoning-Nemotron-14B
OpenReasoning-Nemotron-7B
OpenReasoning-Nemotron-1.5B

## 学習と評価データセット

### 学習データセット
OpenReasoning-Nemotron-14Bの学習コーパスは、[OpenCodeReasoning](https://huggingface.co/datasets/nvidia/OpenCodeReasoning)データセット、[OpenCodeReasoning-II](https://arxiv.org/abs/2507.09075)、[OpenMathReasoning](https://huggingface.co/datasets/nvidia/OpenMathReasoning)の質問、および[Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset)の合成科学の質問で構成されています。すべての応答は、DeepSeek-R1-0528を使用して生成されています。また、Llama-Nemotron-Post-Training-Datasetの命令に従うデータとツール呼び出しデータも変更せずに含まれています。

データ収集方法：ハイブリッド：自動、人間、合成
ラベリング方法：ハイブリッド：自動、人間、合成
特性：OpenCodeReasoningの質問（https://huggingface.co/datasets/nvidia/OpenCodeReasoning）、[OpenMathReasoning](https://huggingface.co/datasets/nvidia/OpenMathReasoning)、および[Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset)の合成科学の質問からの5MのDeepSeek-R1-0528生成応答。また、Llama-Nemotron-Post-Training-Datasetの命令に従うデータとツール呼び出しデータも変更せずに含まれています。

### 評価データセット
モデルを全体的に評価するために、以下のベンチマークを使用しました。

#### 数学
- AIME 2024/2025
- HMMT
- BRUNO 2025

#### コード
- LiveCodeBench
- SciCode

#### 科学
- GPQA
- MMLU-PRO
- HLE

データ収集方法：ハイブリッド：自動、人間、合成
ラベリング方法：ハイブリッド：自動、人間、合成

## 推論
**加速エンジン**：vLLM、Tensor(RT)-LLM
**テストハードウェア** NVIDIA H100-80GB

## 倫理的考慮事項
NVIDIAは、信頼できるAIは共有の責任であると信じており、幅広いAIアプリケーションの開発を可能にするためのポリシーと実践を確立しています。サービス利用規約に従ってダウンロードまたは使用する場合、開発者は自社の内部モデルチームと協力して、このモデルが関連する業界とユースケースの要件を満たし、予期しない製品の誤用に対処することを確認する必要があります。

このモデルの倫理的考慮事項の詳細については、モデルカード++の説明性、バイアス、安全性とセキュリティ、およびプライバシーのサブカードを参照してください。

モデルの品質、リスク、セキュリティの脆弱性、またはNVIDIA AIに関する懸念事項は、[こちら](https://www.nvidia.com/en-us/support/submit-security-vulnerability/)から報告してください。

## 📄 ライセンス
このモデルの使用は、[Creative Commons Attribution 4.0 International License (CC-BY-4.0)](https://creativecommons.org/licenses/by/4.0/legalcode.en)に準拠しています。追加情報：[Apache 2.0 License](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct/blob/main/LICENSE)