Octothinker 3B Hybrid Zero

🚀 OctoThinker: Mid-training Incentivizes Reinforcement Learning Scaling

OctoThinkerは、学習途中の洞察を基にした強化学習に適したベース言語モデルを提供します。このプロジェクトは、強化学習の拡張性を高めるための新しいアプローチを提案しています。

🚀 クイックスタート

OctoThinkerファミリーは、Llama - 3ファミリーをベースに、学習途中の詳細な洞察を元に構築された、強化学習に適したベース言語モデルです。OctoThinker - 3B - Hybrid - Zeroは、OctoThinker - 3B - Hybrid - Baseから始まり、教師あり微調整（SFT）を一切行わずに、R1 - Zeroスタイルの強化学習技術を用いて訓練されています。

✨ 主な機能

• OctoThinkerファミリーは、学習途中の洞察を基にした強化学習に適したベース言語モデルを提供します。
• OctoThinker - 3B - Hybrid - Zeroは、教師あり微調整を行わずに強化学習技術を用いて訓練されています。

📚 ドキュメント

OctoThinker - 3B - Hybrid - Baseの訓練レシピ

OctoThinker - 3B - Baseシリーズの評価結果

これらのベース言語モデルに対して、few - shotプロンプト評価を採用しています。

OctoThinker - 3B - Zeroシリーズの強化学習訓練ダイナミクス

OctoThinkerに関する詳細

📄 ライセンス

• ライセンス: llama3.2

関連データセット

📄 引用

詳細については、論文をご覧ください。もし当社のモデルやデータセットを使用したり、当社の研究が有用だと感じた場合は、以下のように引用してください。

@article{wang2025octothinker,
  title={OctoThinker: Mid-training Incentivizes Reinforcement Learning Scaling},
  author={Wang, Zengzhi and Zhou, Fan and Li, Xuefeng and Liu, Pengfei},
  year={2025},
  journal={arXiv preprint arXiv:2506.20512},
  note={Preprint}
}