Codeactagent Mistral 7b V0.1

🚀 可執行代碼動作助力打造更出色的大語言模型智能體

本項目提出使用可執行的Python 代碼 將大語言模型（LLM）智能體的 動作 整合到統一的動作空間（即 CodeAct）。通過與Python解釋器集成，CodeAct能夠執行代碼動作，並通過多輪交互根據新的觀察結果（如代碼執行結果）動態修改先前的動作或發出新的動作。

💻 代碼 • 📃 論文 • 🤗 數據 (CodeActInstruct) • 🤗 模型 (CodeActAgent-Mistral-7b-v0.1) • 🤖 與CodeActAgent對話！

🚀 快速開始

本項目提出使用可執行的Python代碼將大語言模型智能體的動作整合到統一的動作空間（CodeAct）。通過與Python解釋器集成，CodeAct能夠執行代碼動作，並通過多輪交互根據新的觀察結果（如代碼執行結果）動態修改先前的動作或發出新的動作。

✨ 主要特性

為何選擇CodeAct？

我們對API-Bank上的17個大語言模型以及新整理的基準測試 M³ToolEval 進行了廣泛分析，結果表明CodeAct的性能優於廣泛使用的Text和JSON等替代方案（成功率最高可提高20%）。更多詳細分析請查閱我們的論文！

CodeAct與Text / JSON作為動作的比較

在M³ToolEval上CodeAct與 {Text, JSON} 的定量比較結果

📦 數據集CodeActInstruct

我們收集了一個指令微調數據集CodeActInstruct，其中包含7000個使用CodeAct的多輪交互。該數據集已發佈在 Hugging Face 🤗 上。有關數據收集的詳細信息，請參閱論文和 此部分。

數據集統計信息。標記統計使用Llama - 2分詞器計算

🪄 模型CodeActAgent

基於 CodeActInstruct 和通用對話數據進行訓練的 CodeActAgent，在處理跨領域智能體任務時，與相同規模的開源模型相比表現更出色，同時不會犧牲通用性能（如知識問答、對話能力）。我們發佈了兩個版本的CodeActAgent：

• CodeActAgent - Mistral - 7b - v0.1（推薦，模型鏈接）：以Mistral - 7b - v0.1為基礎模型，上下文窗口為32k。
• CodeActAgent - Llama - 7b（模型鏈接）：以Llama - 2 - 7b為基礎模型，上下文窗口為4k。

CodeActAgent的評估結果。ID和OD分別表示領域內和跨領域評估。總體平均性能將MT - Bench分數進行歸一化處理，以與其他任務保持一致，並排除領域內任務以進行公平比較

有關數據收集、模型訓練和評估的更多詳細信息，請查閱 我們的論文 和 代碼。

📚 引用

@misc{wang2024executable,
      title={Executable Code Actions Elicit Better LLM Agents}, 
      author={Xingyao Wang and Yangyi Chen and Lifan Yuan and Yizhe Zhang and Yunzhu Li and Hao Peng and Heng Ji},
      year={2024},
      eprint={2402.01030},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

📄 許可證

本項目採用Apache - 2.0許可證。