OpenMath - Mistral - 7B - v0.1 - hfオープンソースモデル - テキスト推論とコード実行を組み合わせて数学の難問を解決する

ホーム

Openmath Mistral 7B V0.1 Hf

nvidiaによって開発

OpenMathモデルはテキスト推論とPythonインタプリタ実行のコードブロックを組み合わせて数学問題を解決し、Mistral-7B-v0.1を微調整したものです

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #数学推論 #Pythonコード実行 #命令微調整

ダウンロード数 22

リリース時間 : 2/6/2024

モデル概要

OpenMathモデルは数学問題解決のために設計され、テキスト推論とPythonコード実行能力を組み合わせ、OpenMathInstruct-1データセットで訓練され、180万の数学問題-解決策ペアを含みます

モデル特徴

数学問題求解

テキスト推論とPythonコード実行能力を組み合わせて複雑な数学問題を解決

大規模訓練データ

180万の数学問題-解決策ペアを含むOpenMathInstruct-1データセットで訓練

高性能

GSM8KとMATHベンチマークで優れた性能を発揮し、多数決投票で精度向上をサポート

モデル能力

数学問題求解

Pythonコード生成と実行

数学推論

テキスト生成

使用事例

教育

数学指導

学生が数学問題を理解し解決するのを支援

GSM8Kテストセットで80.2%の精度を達成

研究

数学問題研究

研究者が複雑な数学問題を探求するのを支援

MATHテストセットで44.5%の精度を達成

🚀 OpenMath-Mistral-7B-v0.1-hf

OpenMathモデルは、Pythonインタープリターで実行されるコードブロックとテキストベースの推論を統合することで、数学的な問題を解決するように設計されています。これらのモデルは、許容的なライセンスのMixtral-8x7Bモデルを使用して生成された180万の問題と解のペアを持つ数学の命令微調整データセットであるOpenMathInstruct-1で訓練されました。

Property	Details
Model Type	OpenMath-Mistral-7B-v0.1-hf
Training Data	OpenMathInstruct-1

モデル	greedy (GSM8K)	greedy (MATH)	majority@50 (GMS8K)	majority@50 (MATH)
OpenMath-CodeLlama-7B (nemo \| HF)	75.9	43.6	84.8	55.6
OpenMath-Mistral-7B (nemo \| HF)	80.2	44.5	86.9	57.2
OpenMath-CodeLlama-13B (nemo \| HF)	78.8	45.5	86.8	57.6
OpenMath-CodeLlama-34B (nemo \| HF)	80.7	48.3	88.0	60.2
OpenMath-Llama2-70B (nemo \| HF)	84.7	46.3	90.1	58.3
OpenMath-CodeLlama-70B (nemo \| HF)	84.6	50.7	90.8	60.4

これらのモデルを生成するために使用したパイプラインは完全にオープンソースです！

詳細については、論文を参照してください！

🚀 クイックスタート

モデルの使用方法

数行のコマンドで、モデルを使って推論を実行してみてください！

結果の再現

結果を完全に再現するためのすべての手順を提供しています。

他のモデルの改善

他のモデルを改善するには、またはコードについてもっと学ぶには、以下のドキュメントを読んでください。

NeMo-Skillsパイプライン

私たちのパイプラインでは、NVIDIA NeMoを使用しています。これは、どこでも生成AIモデルを構築、カスタマイズ、および展開するためのエンドツーエンドのクラウドネイティブフレームワークです。トレーニングと推論フレームワーク、ガードレールツールキット、データキュレーションツール、および事前学習済みモデルを含み、企業に生成AIを簡単に、費用対効果高く、迅速に採用する方法を提供します。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

📚 引用

もし私たちの研究が役に立った場合は、以下のように引用していただけると幸いです。

@article{toshniwal2024openmath,
  title   = {OpenMathInstruct-1: A 1.8 Million Math Instruction Tuning Dataset},
  author  = {Shubham Toshniwal and Ivan Moshkov and Sean Narenthiran and Daria Gitman and Fei Jia and Igor Gitman},
  year    = {2024},
  journal = {arXiv preprint arXiv: Arxiv-2402.10176}
}