Mmada 8B MixCoT

🚀 MMaDA-8B-MixCoT

MMaDA是一類新型的多模態擴散基礎模型，旨在在文本推理、多模態理解和文本到圖像生成等多個領域實現卓越性能。MMaDA具有以下三項關鍵創新：

1. MMaDA採用統一的擴散架構，具有共享的概率公式和模態無關的設計，無需特定模態的組件。
2. MMaDA引入了混合長思維鏈（CoT）微調策略，在各模態間精心設計了統一的CoT格式。
3. MMaDA採用了基於統一策略梯度的強化學習算法，我們稱之為UniGRPO，專門為擴散基礎模型量身定製。通過多樣化的獎勵建模，UniGRPO統一了推理和生成任務的後訓練過程，確保性能持續提升。

與MMaDA-8B-Base相比，MMaDA-8B-MixCoT展現出更好的指令遵循能力和更穩定的CoT生成性能。

論文 | 代碼 | 演示

✨ 主要特性

• 統一架構：採用統一的擴散架構，具有共享的概率公式和模態無關的設計，無需特定模態的組件。
• 混合長思維鏈微調：引入混合長思維鏈（CoT）微調策略，在各模態間精心設計了統一的CoT格式。
• 統一強化學習算法：採用基於統一策略梯度的強化學習算法UniGRPO，通過多樣化的獎勵建模，統一推理和生成任務的後訓練過程，確保性能持續提升。
• 性能提升：相比MMaDA-8B-Base，展現出更好的指令遵循能力和更穩定的CoT生成性能。

📄 許可證

本項目採用MIT許可證。

📚 詳細文檔

引用

如果您在研究中使用了本項目，請引用以下論文：

@article{yang2025mmada,
  title={MMaDA: Multimodal Large Diffusion Language Models},
  author={Yang, Ling and Tian, Ye and Li, Bowen and Zhang, Xinchen and Shen, Ke and Tong, Yunhai and Wang, Mengdi},
  journal={arXiv preprint arXiv:2505.15809},
  year={2025}
}