Mathcoder L 7B

🚀 MathCoder: 高度な数学的推論のためのLLMにおけるシームレスなコード統合

MathCoderは、一般的な数学問題の解決に特化したオープンソースの大規模言語モデル（LLM）のシリーズです。これらのモデルは、数学的推論能力を強化するために設計されています。

🚀 クイックスタート

MathCoderモデルはHuggingfaceのTransformersライブラリを通じて利用できます。pipeline関数を使って、好みのモデルでテキスト生成パイプラインを作成し、数学問題を入力すると解が得られます。詳細はGitHubリポジトリをご確認ください。

✨ 主な機能

• 一般的な数学問題の解決に特化した大規模言語モデル。
• Llama-2とCode Llamaをベースモデルとして微調整されています。

📦 インストール

ドキュメントに具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

ドキュメントに具体的なコード例が記載されていないため、このセクションは省略されます。

📚 ドキュメント

論文

https://arxiv.org/pdf/2310.03731.pdf

リポジトリ

https://github.com/mathllm/MathCoder

モデル

学習データ

モデルはMathCodeInstructデータセットで学習されています。

学習手順

モデルは、元のLlama-2とCodeLlamaモデルをベースモデルとして、MathCodeInstructデータセットを使って微調整されています。詳細は論文とリポジトリを参照してください。

評価

🔧 技術詳細

ドキュメントに具体的な技術詳細が十分に記載されていないため、このセクションは省略されます。

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で公開されています。

引用

データ、モデル、またはコードを使用する場合は、論文を引用してください。また、元のデータセットの論文も引用していただけると幸いです。

@inproceedings{
wang2024mathcoder,
title={MathCoder: Seamless Code Integration in {LLM}s for Enhanced Mathematical Reasoning},
author={Ke Wang and Houxing Ren and Aojun Zhou and Zimu Lu and Sichun Luo and Weikang Shi and Renrui Zhang and Linqi Song and Mingjie Zhan and Hongsheng Li},
booktitle={The Twelfth International Conference on Learning Representations},
year={2024},
url={https://openreview.net/forum?id=z8TW0ttBPp}
}

@inproceedings{
zhou2024solving,
title={Solving Challenging Math Word Problems Using {GPT}-4 Code Interpreter with Code-based Self-Verification},
author={Aojun Zhou and Ke Wang and Zimu Lu and Weikang Shi and Sichun Luo and Zipeng Qin and Shaoqing Lu and Anya Jia and Linqi Song and Mingjie Zhan and Hongsheng Li},
booktitle={The Twelfth International Conference on Learning Representations},
year={2024},
url={https://openreview.net/forum?id=c8McWs4Av0}
}