Mathcoder CL 7B

🚀 MathCoder: 高度な数学的推論のためのLLMにおけるシームレスなコード統合

MathCoderは、一般的な数学問題解決に特化した一連のオープンソース大規模言語モデル（LLM）です。これらのモデルは、数学的推論能力を強化するために設計されています。

🚀 クイックスタート

MathCoderモデルを使用するには、HuggingfaceのTransformersライブラリを通じて利用できます。pipeline関数を使って、選択したモデルでテキスト生成パイプラインを作成し、数学問題を入力すると解が得られます。詳細は、GitHubリポジトリをご確認ください。

✨ 主な機能

• 一般的な数学問題解決に特化した大規模言語モデルです。
• Llama-2とCode Llamaをベースモデルとして、MathCodeInstructデータセットでファインチューニングされています。

📦 インストール

READMEに具体的なインストール手順が記載されていないため、このセクションを省略します。

💻 使用例

READMEに具体的なコード例が記載されていないため、このセクションを省略します。

📚 ドキュメント

論文

詳細な情報は、こちらの論文を参照してください。

モデル

学習データ

モデルは、MathCodeInstructデータセットを使用して学習されています。

学習手順

モデルは、元のLlama-2とCodeLlamaモデルをベースモデルとして、MathCodeInstructデータセットでファインチューニングされています。詳細は、論文とリポジトリを参照してください。

評価

🔧 技術詳細

READMEに具体的な技術詳細が記載されていないため、このセクションを省略します。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

📄 引用

データ、モデル、またはコードを使用する場合は、以下の論文を引用してください。また、元のデータセットの論文も引用していただけると幸いです。

@inproceedings{
wang2024mathcoder,
title={MathCoder: Seamless Code Integration in {LLM}s for Enhanced Mathematical Reasoning},
author={Ke Wang and Houxing Ren and Aojun Zhou and Zimu Lu and Sichun Luo and Weikang Shi and Renrui Zhang and Linqi Song and Mingjie Zhan and Hongsheng Li},
booktitle={The Twelfth International Conference on Learning Representations},
year={2024},
url={https://openreview.net/forum?id=z8TW0ttBPp}
}

@inproceedings{
zhou2024solving,
title={Solving Challenging Math Word Problems Using {GPT}-4 Code Interpreter with Code-based Self-Verification},
author={Aojun Zhou and Ke Wang and Zimu Lu and Weikang Shi and Sichun Luo and Zipeng Qin and Shaoqing Lu and Anya Jia and Linqi Song and Mingjie Zhan and Hongsheng Li},
booktitle={The Twelfth International Conference on Learning Representations},
year={2024},
url={https://openreview.net/forum?id=c8McWs4Av0}
}