Fastcurl 1.5B Preview

🚀 FastCuRL-1.5B-Preview

FastCuRL-1.5B-Preview 是一个慢思考推理模型，在仅使用 50% 训练步骤的情况下，性能就超越了之前的最优模型 DeepScaleR-1.5B-Preview。该项目开源了代码、模型和数据，方便研究人员复现工作和推动研究进展。

🚀 快速开始

2025 年 3 月 17 日

我们发布了 FastCuRL-1.5B-Preview，这是一个慢思考推理模型，在仅使用 50% 训练步骤 的情况下就 超越 了之前的最优模型 DeepScaleR-1.5B-Preview！我们将一种新颖的课程引导迭代延长强化学习方法应用于 DeepSeek-R1-Distill-Qwen-1.5B，并观察到随着训练步骤的增加，模型性能持续提升。为了更好地复现我们的工作并推动研究进展，我们开源了代码、模型和数据。

代码链接：https://github.com/nick7nlp/FastCuRL

2025 年 3 月 21 日

论文链接：https://arxiv.org/abs/2503.17287

✨ 主要特性

关键结果

我们报告了每个问题在 16 个样本上的平均 Pass@1 准确率。

训练数据

遵循 DeepScaleR 的做法，我们的训练数据集包含 40315 个独特的问题 - 答案对，这些数据来自以下来源：

• AIME 问题（1984 - 2023 年）
• AMC 问题（2023 年之前）
• Omni - MATH 数据集
• Still 数据集

📚 详细文档

致谢

• 我们的训练实验基于对 verl 和 deepscaler 的深度修改版本。
• 我们的模型基于 DeepSeek-R1-Distill-Qwen-1.5B 进行训练。

📄 许可证

本项目采用 MIT 许可证。