Metamath 7B V1.0

🚀 MetaMath-Llemma-7B项目

MetaMath-Llemma-7B是基于强大的Llemma-7B模型，在MetaMathQA数据集上进行全量微调的模型。该模型在数学任务上表现出色，能有效提升解题性能。

🚀 快速开始

你可以通过以下链接查看项目相关信息：

• 论文链接：https://arxiv.org/abs/2309.12284
• 项目主页：https://meta-math.github.io/

✨ 主要特性

• 数据来源可靠：所有MetaMathQA数据均从GSM8K和MATH的训练集扩充而来，无测试集数据。
• 性能提升显著：使用MetaMathQA数据集，并将基础模型从llama-2-7B更换为Llemma-7B后，MATH任务的Pass@1指标从19.8提升到了30.0。

📦 安装指南

使用以下命令安装所需依赖：

pip install transformers==4.35.0
pip install torch==2.0.1
pip install sentencepiece==0.1.99
pip install tokenizers==0.13.3
pip install accelerate==0.21.0
pip install bitsandbytes==0.40.0
pip install vllm
pip install fraction
pip install protobuf

💻 使用示例

基础用法

模型的提示模板如下：

"Below is an instruction that describes a task. "
"Write a response that appropriately completes the request.\n\n"
"### Instruction:\n{instruction}\n\n### Response: Let's think step by step."

你需要将{instruction}替换为你的查询问题。

📚 详细文档

数据说明

所有MetaMathQA数据均从GSM8K和MATH的训练集扩充而来，你可以查看meta-math/MetaMathQA中的original_question，每个条目都来自GSM8K或MATH的训练集。

实验结果

以下是不同模型在GSM8k和MATH任务上的Pass@1指标对比：

📄 许可证

本项目使用的许可证为llama2。

📚 引用信息

如果你使用了本项目的相关内容，请引用以下论文：

@article{yu2023metamath,
  title={MetaMath: Bootstrap Your Own Mathematical Questions for Large Language Models},
  author={Yu, Longhui and Jiang, Weisen and Shi, Han and Yu, Jincheng and Liu, Zhengying and Zhang, Yu and Kwok, James T and Li, Zhenguo and Weller, Adrian and Liu, Weiyang},
  journal={arXiv preprint arXiv:2309.12284},
  year={2023}
}