Llama 3.2 3B NuminaQA

🚀 Llama-3.2-3B-NuminaQA

このモデルは、最小限のR1-Zeroレシピにおける3Bベースモデルとして機能します。

🚀 クイックスタート

このモデルは、特定の学習設定を用いて訓練されており、以下の詳細を持っています。

✨ 主な機能

• 特定のベースモデルとデータセットを使用した訓練
• 2エポックの訓練と1e-5の学習率

📚 ドキュメント

🔗 リンク

• 📜 論文
• 💻 GitHub
• 🤗 Oat-Zero Collection

📋 訓練詳細

📄 引用

@misc{liu2025understanding,
  title={Understanding R1-Zero-Like Training: A Critical Perspective},
  author={Zichen Liu and Changyu Chen and Wenjun Li and Penghui Qi and Tianyu Pang and Chao Du and Wee Sun Lee and Min Lin},
  year={2025},
  howpublished={\url{https://github.com/sail-sg/understand-r1-zero}},
}

📄 ライセンス

このプロジェクトは、Apache 2.0ライセンスの下で公開されています。