Wizardmath 7B V1.1

🚀 WizardMath: 強化進化指示 (RLEIF) による大規模言語モデルの数学的推論能力の強化

WizardMathは、強化進化指示 (RLEIF) を通じて大規模言語モデルの数学的推論能力を強化するプロジェクトです。このモデルは、数学的な問題解決能力に優れ、様々な数学的タスクに対応できます。

🏠 ホームページ

🤗 HFリポジトリ •🐱 Githubリポジトリ • 🐦 Twitter

📃 [WizardLM] • 📃 [WizardCoder] • 📃 [WizardMath]

👋 Discordに参加しましょう

ニュース

[2023年12月19日] 🔥 Mistral-7Bから学習したWizardMath-7B-V1.1をリリースしました。これはSOTAの7Bサイズの数学用LLMで、GSM8kで83.2 pass@1、MATHで33.0 pass@1を達成しました。[デモ]を使って会話してみてください。

[2023年12月19日] 🔥 WizardMath-7B-V1.1は、GSM8K pass@1でChatGPT 3.5、Gemini Pro、Mixtral MOE、Claude Instantを上回っています。

[2023年12月19日] 🔥 WizardMath-7B-V1.1は、MATH pass@1でChatGPT 3.5、Gemini Proと同等で、Mixtral MOEを上回っています。

[2023年12月19日] WizardMath-7B-V1.1と他のオープンソース7Bサイズの数学用LLMの比較

[2023年12月19日] WizardMath-7B-V1.1と大規模オープンソース (30B~70B) LLMsの比較

❗ データ汚染チェック:

モデルの学習前に、すべての学習データを注意深く、厳密にチェックし、複数の重複排除方法を使用して、GSM8kとMATHテストセットでのデータ漏洩を検証し、防止しました。

🔥 ❗モデルのシステムプロンプト使用に関する注意:

私たちと厳密に同じシステムプロンプトを使用してください。また、量子化バージョンの精度は保証しません。

デフォルトバージョン:

"Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:"

CoTバージョン: （❗ 簡単な数学問題には、CoTプロンプトの使用はお勧めしません。）

"Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response: Let's think step by step."

WizardMath推論デモスクリプト

WizardMathの推論デモコードをこちらで提供しています。

引用

このリポジトリのデータ、方法、またはコードを使用する場合は、リポジトリを引用してください。

@article{luo2023wizardmath,
  title={WizardMath: Empowering Mathematical Reasoning for Large Language Models via Reinforced Evol-Instruct},
  author={Luo, Haipeng and Sun, Qingfeng and Xu, Can and Zhao, Pu and Lou, Jianguang and Tao, Chongyang and Geng, Xiubo and Lin, Qingwei and Chen, Shifeng and Zhang, Dongmei},
  journal={arXiv preprint arXiv:2308.09583},
  year={2023}
}