🚀 OpenReasoning-Nemotron-7B 概述

OpenReasoning-Nemotron-7B 是一个大语言模型（LLM），它基于 Qwen2.5-7B-Instruct（即参考模型）衍生而来。这是一个推理模型，经过了针对数学、代码和科学解决方案生成的后训练。我们对该模型进行了评估，其输出令牌数最高可达 64K。OpenReasoning 模型有以下几种规模：1.5B、7B、14B 和 32B。

此模型可用于商业或非商业研究。

许可证/使用条款

适用条款：上述模型的使用受 知识共享署名 4.0 国际许可协议（CC-BY-4.0） 约束。附加信息：Apache 2.0 许可证

✨ 主要特性

推理基准测试成绩

我们的模型在一系列具有挑战性的推理基准测试中表现出色。7B、14B 和 32B 模型在其规模类别中始终创造新的最先进记录。

* 这是我们对人工分析智能指数的估计，并非官方分数。

* LiveCodeBench 版本 6，日期范围 2408 - 2505。

多智能体协作

OpenReasoning-Nemotron 模型可以通过启动多个并行生成并通过 生成式解决方案选择（GenSelect） 将它们组合在一起，以“重”模式使用。为了添加此“技能”，我们遵循原始的 GenSelect 训练流程，但不基于选择摘要进行训练，而是使用 DeepSeek R1 0528 671B 的完整推理轨迹。我们仅训练模型为数学问题选择最佳解决方案，但令人惊讶的是，发现此能力可直接推广到代码和科学问题！在这种“重”GenSelect 推理模式下，OpenReasoning-Nemotron-32B 模型在数学和编码基准测试中超越了 O3（高）。

📦 安装指南

文档未提及安装步骤，故跳过此章节。

💻 使用示例

基础用法

import transformers
import torch
model_id = "nvidia/OpenReasoning-Nemotron-7B"
pipeline = transformers.pipeline(
    "text-generation",
    model=model_id,
    model_kwargs={"torch_dtype": torch.bfloat16},
    device_map="auto",
)
# Code generation prompt
prompt = """You are a helpful and harmless assistant. You should think step-by-step before responding to the instruction below.
Please use python programming language only.
You must use ```python for just the final solution code block with the following format:
```python
# Your code here

{user} """

Math generation prompt

prompt = """Solve the following math problem. Make sure to put the answer (and only answer) inside \boxed{}.

{user}

"""

Science generation prompt

You can refer to prompts here -

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/generic/hle.yaml (HLE)

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/eval/aai/mcq-4choices-boxed.yaml (for GPQA)

https://github.com/NVIDIA/NeMo-Skills/blob/main/nemo_skills/prompt/config/eval/aai/mcq-10choices-boxed.yaml (MMLU-Pro)

messages = [ { "role": "user", "content": prompt.format(user="Write a program to calculate the sum of the first $N$ fibonacci numbers")}, ] outputs = pipeline( messages, max_new_tokens=64000, ) print(outputs[0]["generated_text"][-1]['content'])

## 📚 详细文档

### 引用
如果您发现这些数据有用，请引用：

@article{ahmad2025opencodereasoning, title={OpenCodeReasoning: Advancing Data Distillation for Competitive Coding}, author={Wasi Uddin Ahmad, Sean Narenthiran, Somshubra Majumdar, Aleksander Ficek, Siddhartha Jain, Jocelyn Huang, Vahid Noroozi, Boris Ginsburg}, year={2025}, eprint={2504.01943}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2504.01943}, }

@misc{ahmad2025opencodereasoningiisimpletesttime, title={OpenCodeReasoning-II: A Simple Test Time Scaling Approach via Self-Critique}, author={Wasi Uddin Ahmad and Somshubra Majumdar and Aleksander Ficek and Sean Narenthiran and Mehrzad Samadi and Jocelyn Huang and Siddhartha Jain and Vahid Noroozi and Boris Ginsburg}, year={2025}, eprint={2507.09075}, archivePrefix={arXiv}, primaryClass={cs.CL}, url={https://arxiv.org/abs/2507.09075}, }

@misc{moshkov2025aimo2winningsolutionbuilding, title={AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset}, author={Ivan Moshkov and Darragh Hanley and Ivan Sorokin and Shubham Toshniwal and Christof Henkel and Benedikt Schifferer and Wei Du and Igor Gitman}, year={2025}, eprint={2504.16891}, archivePrefix={arXiv}, primaryClass={cs.AI}, url={https://arxiv.org/abs/2504.16891}, }

### 附加信息
| 属性 | 详情 |
|------|------|
| 部署地区 | 全球 |
| 使用场景 | 此模型适用于处理竞赛数学、代码和科学问题的开发者和研究人员。它仅通过监督微调进行训练，以在基准测试中取得高分。 |
| 发布日期 | Huggingface [2025 年 7 月 16 日]，通过 [链接](https://huggingface.co/nvidia/OpenReasoning-Nemotron-7B/) |
| 参考资料 | [2504.01943] OpenCodeReasoning: Advancing Data Distillation for Competitive Coding <br> [2504.01943] OpenCodeReasoning: Advancing Data Distillation for Competitive Coding <br> [2504.16891] AIMO-2 Winning Solution: Building State-of-the-Art Mathematical Reasoning Models with OpenMathReasoning dataset |
| 模型架构类型 | 密集解码器 Transformer 模型 |
| 网络架构 | Qwen-7B-Instruct |
| 输入类型 | 文本 |
| 输入格式 | 字符串 |
| 输入参数 | 一维（1D） |
| 输入其他属性 | 训练输出令牌数最高可达 64,000 |
| 输出类型 | 文本 |
| 输出格式 | 字符串 |
| 输出参数 | 一维（1D） |
| 输出其他属性 | 训练输出令牌数最高可达 64,000 |
| 软件集成 - 运行时引擎 | NeMo 2.3.0 |
| 软件集成 - 推荐硬件微架构兼容性 | NVIDIA Ampere <br> NVIDIA Hopper |
| 软件集成 - 首选/支持的操作系统 | Linux |
| 模型版本 | 1.0（2025 年 7 月 16 日） <br> OpenReasoning-Nemotron-32B <br> OpenReasoning-Nemotron-14B <br> OpenReasoning-Nemotron-7B <br> OpenReasoning-Nemotron-1.5B |

### 训练和评估数据集
#### 训练数据集
OpenReasoning-Nemotron-7B 的训练语料库由来自 [OpenCodeReasoning](https://huggingface.co/datasets/nvidia/OpenCodeReasoning) 数据集、[OpenCodeReasoning-II](https://arxiv.org/abs/2507.09075)、[OpenMathReasoning](https://huggingface.co/datasets/nvidia/OpenMathReasoning) 的问题以及 [Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset) 中的合成科学问题组成。所有响应均使用 DeepSeek-R1-0528 生成。我们还未做修改地包含了 Llama-Nemotron-Post-Training-Dataset 中的指令跟随和工具调用数据。

数据收集方法：混合：自动化、人工、合成
标注方法：混合：自动化、人工、合成
属性：来自 OpenCodeReasoning 问题（https://huggingface.co/datasets/nvidia/OpenCodeReasoning）、[OpenMathReasoning](https://huggingface.co/datasets/nvidia/OpenMathReasoning) 和 [Llama-Nemotron-Post-Training-Dataset](https://huggingface.co/datasets/nvidia/Llama-Nemotron-Post-Training-Dataset) 中合成科学问题的 500 万个 DeepSeek-R1-0528 生成的响应。我们还未做修改地包含了 Llama-Nemotron-Post-Training-Dataset 中的指令跟随和工具调用数据。

#### 评估数据集
我们使用以下基准对模型进行全面评估。

##### 数学
- AIME 2024/2025
- HMMT
- BRUNO 2025

##### 代码
- LiveCodeBench
- SciCode

##### 科学
- GPQA
- MMLU-PRO
- HLE

数据收集方法：混合：自动化、人工、合成
标注方法：混合：自动化、人工、合成

### 推理
| 属性 | 详情 |
|------|------|
| 加速引擎 | vLLM, Tensor(RT)-LLM |
| 测试硬件 | NVIDIA H100 - 80GB |

### 伦理考量
NVIDIA 认为可信 AI 是一项共同责任，我们已经制定了政策和实践，以支持广泛的 AI 应用开发。当按照我们的服务条款下载或使用时，开发者应与内部模型团队合作，确保该模型满足相关行业和使用场景的要求，并解决不可预见的产品滥用问题。

有关此模型伦理考量的更多详细信息，请参阅模型卡片++可解释性、偏差、安全与保障以及隐私子卡片。

请 [在此](https://www.nvidia.com/en-us/support/submit-security-vulnerability/) 报告模型质量、风险、安全漏洞或 NVIDIA AI 相关问题。

## 📄 许可证
此模型的使用受 [知识共享署名 4.0 国际许可协议（CC-BY-4.0）](https://creativecommons.org/licenses/by/4.0/legalcode.en) 约束。附加信息：[Apache 2.0 许可证](https://huggingface.co/Qwen/Qwen2.5-32B-Instruct/blob/main/LICENSE)