Xlam V0.1 R

🚀 xLAM-v0.1-r大动作模型

xLAM-v0.1-r是大动作模型系列的0.1版本，是在Mixtral基础上的显著升级。该模型在相同参数数量下，针对广泛的代理任务和场景进行了微调，同时保留了原模型的能力，并且兼容VLLM和FastChat平台。

[AgentOhana论文] | [Github] | [Discord] | [主页] | [社区演示]

🚀 快速开始

如果你已经了解Mixtral，那么xLAM-v0.1是一个显著的升级版本，在很多方面表现更优。对于相同数量的参数，该模型在广泛的代理任务和场景中进行了微调，同时保留了原模型的能力。

xLAM-v0.1-r代表大动作模型系列的0.1版本，“-r” 表示该版本用于研究。此模型与VLLM和FastChat平台兼容。

💻 使用示例

基础用法

from transformers import AutoModelForCausalLM, AutoTokenizer

tokenizer = AutoTokenizer.from_pretrained("Salesforce/xLAM-v0.1-r")
model = AutoModelForCausalLM.from_pretrained("Salesforce/xLAM-v0.1-r", device_map="auto")

messages = [
    {"role": "user", "content": "What is your favourite condiment?"},
    {"role": "assistant", "content": "Well, I'm quite partial to a good squeeze of fresh lemon juice. It adds just the right amount of zesty flavour to whatever I'm cooking up in the kitchen!"},
    {"role": "user", "content": "Do you have mayonnaise recipes?"}
]

inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to("cuda")

outputs = model.generate(inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

高级用法

你可能需要针对不同的应用调整温度设置。通常，较低的温度有助于需要确定性结果的任务。此外，对于要求遵循特定格式或函数调用的任务，建议明确包含格式说明。

⚠️ 伦理考量

本次发布仅用于支持学术论文的研究目的。我们的模型、数据集和代码并非专门为所有下游用途设计或评估。我们强烈建议用户在部署此模型之前，评估并解决与准确性、安全性和公平性相关的潜在问题。我们鼓励用户考虑人工智能的常见局限性，遵守适用法律，并在选择用例时采用最佳实践，特别是在错误或滥用可能对人们的生活、权利或安全产生重大影响的高风险场景中。有关用例的更多指导，请参考我们的AUP和AI AUP。

📊 基准测试

BOLAA

Webshop

HotpotQA

AgentLite

请注意：AgentLite提供的所有提示对于xLAM-v0.1-r来说都是“未见提示”，这意味着模型没有使用与这些提示相关的数据进行训练。

Webshop

HotpotQA

ToolBench

MINT-BENCH

Tool-Query

📄 许可证

此代码遵循Apache 2.0许可证。对于基于deepseek模型的模型，你需要遵循链接的deepseek许可证中的使用限制。这是一个仅用于研究的项目。

🙏 致谢

我们要感谢那些为我们的论文和代理研究社区做出贡献的工作！如果你发现我们的工作有用，请考虑引用以下文献：

@article{zhang2024agentohana,
  title={AgentOhana: Design Unified Data and Training Pipeline for Effective Agent Learning},
  author={Zhang, Jianguo and Lan, Tian and Murthy, Rithesh and Liu, Zhiwei and Yao, Weiran and Tan, Juntao and Hoang, Thai and Yang, Liangwei and Feng, Yihao and Liu, Zuxin and others},
  journal={arXiv preprint arXiv:2402.15506},
  year={2024}
}

@article{liu2024apigen,
  title={APIGen: Automated PIpeline for Generating Verifiable and Diverse Function-Calling Datasets},
  author={Liu, Zuxin and Hoang, Thai and Zhang, Jianguo and Zhu, Ming and Lan, Tian and Kokane, Shirley and Tan, Juntao and Yao, Weiran and Liu, Zhiwei and Feng, Yihao and others},
  journal={arXiv preprint arXiv:2406.18518},
  year={2024}
}

@article{zhang2024xlamfamilylargeaction,
  title={xLAM: A Family of Large Action Models to Empower AI Agent Systems}, 
  author={Zhang, Jianguo  and Lan, Tian  and Zhu, Ming  and Liu, Zuxin and Hoang, Thai and Kokane, Shirley and Yao, Weiran and Tan, Juntao and Prabhakar, Akshara and Chen, Haolin and Liu, Zhiwei and Feng, Yihao and Awalgaonkar, Tulika and Murthy, Rithesh and Hu, Eric and Chen, Zeyuan and Xu, Ran and Niebles, Juan Carlos and Heinecke, Shelby and Wang, Huan and Savarese, Silvio and Xiong, Caiming},
  journal={arXiv preprint arXiv:2409.03215},
  year={2024}
}