Fastcurl 1.5B Preview

🚀 FastCuRL-1.5B-Preview

FastCuRL-1.5B-Previewは、新しいカリキュラムガイド付き反復延長強化学習を適用した思考型推論モデルです。このモデルは、少ない学習ステップで高い性能を発揮し、過去のSoTAモデルを上回ります。コード、モデル、データをオープンソース化することで、研究の再現性と進展を促進します。

🚀 クイックスタート

2025年3月17日

FastCuRL-1.5B-Preview をリリースしました。これは、思考型推論モデルで、50%の学習ステップ で以前のSoTAである DeepScaleR-1.5B-Preview を 上回ります！我々は、新しいカリキュラムガイド付き反復延長強化学習を DeepSeek-R1-Distill-Qwen-1.5B に適用し、学習ステップが増えるにつれて継続的な性能向上を観察しました。我々の研究を再現し、研究の進展を促進するために、コード、モデル、データをオープンソース化します。

コード: https://github.com/nick7nlp/FastCuRL

2025年3月21日

論文: https://arxiv.org/abs/2503.17287

✨ 主な機能

各問題について16サンプルの平均Pass@1精度を報告します。

📦 学習データ

DeepScaleRに倣い、学習データセットは以下のソースから収集された40,315の一意の問題と解答のペアで構成されています。

• AIMEの問題 (1984 - 2023)
• AMCの問題 (2023以前)
• Omni-MATHデータセット
• Stillデータセット

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。

謝辞

• 学習実験は、verl と deepscaler の大幅に改変されたフォークを使用して行われました。
• モデルは、DeepSeek-R1-Distill-Qwen-1.5B をベースに学習されました。