OpenMath-Mistral-7B-v0.1-hf開源模型 - 結合文本推理與代碼執行解決數學難題

首頁

Openmath Mistral 7B V0.1 Hf

由nvidia開發

OpenMath模型通過結合文本推理與Python解釋器執行的代碼塊來解決數學問題，基於Mistral-7B-v0.1微調

大型語言模型

Transformers

支持多種語言開源協議:Apache-2.0 #數學推理 #Python代碼執行 #指令微調

下載量 22

發布時間 : 2/6/2024

模型概述

OpenMath模型專為解決數學問題設計，結合文本推理與Python代碼執行能力，在OpenMathInstruct-1數據集上訓練，包含180萬數學問題-解決方案對

模型特點

數學問題求解

結合文本推理與Python代碼執行能力解決複雜數學問題

大規模訓練數據

在包含180萬數學問題-解決方案對的OpenMathInstruct-1數據集上訓練

高性能

在GSM8K和MATH基準測試上表現優異，支持多數投票提升準確率

模型能力

數學問題求解

Python代碼生成與執行

數學推理

文本生成

使用案例

教育

數學輔導

幫助學生理解和解決數學問題

在GSM8K測試集上達到80.2%準確率

研究

數學問題研究

輔助研究人員探索複雜數學問題

在MATH測試集上達到44.5%準確率

🚀 OpenMath-Mistral-7B-v0.1-hf

OpenMath模型旨在通過將基於文本的推理與Python解釋器執行的代碼塊相結合來解決數學問題。這些模型在OpenMathInstruct-1上進行訓練，這是一個包含180萬個問題 - 解決方案對的數學指令調優數據集，使用具有寬鬆許可的Mixtral-8x7B模型生成。

屬性	詳情
基礎模型	mistralai/Mistral-7B-v0.1
訓練數據	nvidia/OpenMathInstruct-1
許可證	apache-2.0

模型評估結果

	greedy	greedy	majority@50	majority@50
模型	GSM8K	MATH	GMS8K	MATH
OpenMath-CodeLlama-7B (nemo \| HF)	75.9	43.6	84.8	55.6
OpenMath-Mistral-7B (nemo \| HF)	80.2	44.5	86.9	57.2
OpenMath-CodeLlama-13B (nemo \| HF)	78.8	45.5	86.8	57.6
OpenMath-CodeLlama-34B (nemo \| HF)	80.7	48.3	88.0	60.2
OpenMath-Llama2-70B (nemo \| HF)	84.7	46.3	90.1	58.3
OpenMath-CodeLlama-70B (nemo \| HF)	84.6	50.7	90.8	60.4

我們用於生成這些模型的流程已完全開源！

更多詳情請參閱我們的論文！

🚀 快速開始

如何使用模型？

只需幾條命令，即可嘗試使用我們的模型進行推理！

復現我們的結果

我們提供了所有說明來完全復現我們的結果。

改進其他模型

若要改進其他模型或瞭解更多關於我們代碼的信息，請閱讀以下文檔。

NeMo-Skills 流程

在我們的流程中，我們使用了NVIDIA NeMo，這是一個端到端的雲原生框架，可在任何地方構建、定製和部署生成式AI模型。它包括訓練和推理框架、護欄工具包、數據整理工具和預訓練模型，為企業提供了一種簡單、經濟高效且快速的方式來採用生成式AI。

📄 許可證

本項目採用 apache-2.0 許可證。

📚 引用

如果您覺得我們的工作有用，請考慮引用我們！

@article{toshniwal2024openmath,
  title   = {OpenMathInstruct-1: A 1.8 Million Math Instruction Tuning Dataset},
  author  = {Shubham Toshniwal and Ivan Moshkov and Sean Narenthiran and Daria Gitman and Fei Jia and Igor Gitman},
  year    = {2024},
  journal = {arXiv preprint arXiv: Arxiv-2402.10176}
}