Agentlm 70b

🚀 AgentLM-70B

AgentTuningは、複数のエージェントタスク間の対話軌跡を用いて大規模言語モデル（LLMs）を命令微調整する最初の試みです。評価結果から、AgentTuningにより、LLMsは未知のエージェントタスクに対して強力な汎化能力を持つエージェント機能を獲得し、一般的な言語能力も維持できることが示されています。我々はAgentInstructデータセットとAgentLMをオープンソース化しています。

🤗 [データセット] • 💻 [GitHubリポジトリ] • 📌 [プロジェクトページ] • 📃 [論文]

✨ 主な機能

AgentTuningは、複数のエージェントタスクの対話軌跡を用いてLLMsを命令微調整することで、未知のエージェントタスクに対する汎化能力を持つエージェント機能を付与し、一般的な言語能力も維持します。

📚 ドキュメント

モデル

AgentLMモデルは、Llama-2-chatモデルから、AgentInstructデータセットとShareGPTデータセットを用いた混合学習によって生成されます。

これらのモデルは、Llama-2-chatの会話形式に従い、システムプロンプトは以下のように固定されています。

You are a helpful, respectful and honest assistant.

7B、13B、および70Bのモデルは、Huggingfaceモデルハブで利用可能です。

引用

もしあなたが我々の研究が有用だと感じた場合、AgentTuningを引用していただけると幸いです。

@misc{zeng2023agenttuning,
      title={AgentTuning: Enabling Generalized Agent Abilities for LLMs}, 
      author={Aohan Zeng and Mingdao Liu and Rui Lu and Bowen Wang and Xiao Liu and Yuxiao Dong and Jie Tang},
      year={2023},
      eprint={2310.12823},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}