Llama 3 Groq 70B Tool Use

🚀 Llama-3-70B-Tool-Use

这是Llama 3 Groq工具使用模型的700亿参数版本，专为高级工具使用和函数调用任务而设计。它能够在API交互、结构化数据处理等复杂任务中表现出色，为研究和开发提供强大支持。

✨ 主要特性

• 模型类型：针对工具使用进行微调的因果语言模型
• 支持语言：英语
• 许可证：Meta Llama 3社区许可证
• 模型架构：优化的Transformer架构
• 训练方法：在Llama 3 70B基础模型上进行全量微调与直接偏好优化（DPO）
• 输入：文本
• 输出：文本，具备增强的工具使用和函数调用能力

📚 详细文档

性能表现

• 伯克利函数调用排行榜（BFCL）得分：整体准确率达到90.76%，在所有开源的700亿参数大语言模型中表现最佳。

使用场景与限制

本模型适用于工具使用和函数调用场景的研究与开发，在涉及API交互、结构化数据操作和复杂工具使用的任务中表现出色。但用户需要注意：

• 对于通用知识或开放性任务，通用语言模型可能更合适。
• 在某些情况下，模型仍可能产生不准确或有偏差的内容。
• 用户需为特定用例实施适当的安全措施。

⚠️ 重要提示

该模型对temperature和top_p采样配置非常敏感。建议从temperature=0.5, top_p=0.65开始，根据需要进行调整。

文本提示示例

我们要特别感谢@NousResearch，他们通过公开探索大语言模型中的工具使用，推动了开源工具使用的发展。

<|start_header_id|>system<|end_header_id|>

你是一个支持函数调用的AI模型。你会在<tools></tools> XML标签内获取函数签名。你可以调用一个或多个函数来辅助处理用户查询。不要对函数的参数值进行假设。对于每个函数调用，请在<tool_call></tool_call> XML标签内返回一个包含函数名和参数的JSON对象，格式如下：
<tool_call>
{"name": <function-name>,"arguments": <args-dict>}
</tool_call>

以下是可用的工具：
<tools> {
    "name": "get_current_weather",
    "description": "获取指定地点的当前天气",
    "parameters": {
        "properties": {
            "location": {
                "description": "城市和州，例如旧金山，加利福尼亚州",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

旧金山的天气如何？<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"旧金山","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

伦理考量

尽管该模型针对工具使用进行了微调，但它继承了基础Llama 3模型的伦理考量。请负责任地使用该模型，并根据应用需求实施额外的保障措施。

模型获取途径

该模型可通过以下途径获取：

• Groq API控制台
• Hugging Face

如需了解负责任使用、伦理考量和最新基准测试的详细信息，请参考官方Llama 3文档和Groq模型卡片。

📄 许可证

本模型使用的许可证为Llama 3许可证。