Llama 3 Groq 8B Tool Use

🚀 Llama-3-Groq-8B-Tool-Use

这是Llama 3 Groq工具使用模型的80亿参数版本，专为高级工具使用和函数调用任务而设计。它在工具使用和函数调用方面具有强大的能力，能有效处理复杂的任务。

✨ 主要特性

• 先进的工具使用能力：专为高级工具使用和函数调用任务设计，在API交互、结构化数据操作等任务中表现出色。
• 高性能表现：在伯克利函数调用排行榜（BFCL）上总体准确率达到89.06%，在所有开源80亿参数大语言模型中表现最佳。
• 优化的模型架构：采用优化的Transformer架构，经过全量微调以及直接偏好优化（DPO）训练。

📦 安装指南

文档未提供安装步骤，暂不展示。

💻 使用示例

基础用法

<|start_header_id|>system<|end_header_id|>

You are a function calling AI model. You are provided with function signatures within <tools></tools> XML tags. You may call one or more functions to assist with the user query. Don't make assumptions about what values to plug into functions. For each function call return a json object with function name and arguments within <tool_call></tool_call> XML tags as follows:
<tool_call>
{"name": <function-name>,"arguments": <args-dict>}
</tool_call>

Here are the available tools:
<tools> {
    "name": "get_current_weather",
    "description": "Get the current weather in a given location",
    "parameters": {
        "properties": {
            "location": {
                "description": "The city and state, e.g. San Francisco, CA",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

What is the weather like in San Francisco?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"San Francisco","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

高级用法

文档未提供高级用法示例，暂不展示。

📚 详细文档

模型详情

性能表现

• 伯克利函数调用排行榜（BFCL）得分：总体准确率89.06%，此得分代表了所有开源80亿参数大语言模型在BFCL上的最佳表现。

使用与限制

此模型专为工具使用和函数调用场景的研究与开发而设计，在涉及API交互、结构化数据操作和复杂工具使用的任务中表现出色。但用户需注意：

• 对于一般知识或开放式任务，通用语言模型可能更合适。
• 模型在某些情况下仍可能产生不准确或有偏差的内容。
• 用户需为其特定用例实施适当的安全措施。

⚠️ 重要提示

该模型对temperature和top_p采样配置非常敏感，建议从temperature=0.5, top_p=0.65开始，根据需要进行调整。

文本提示示例

我们要特别感谢@NousResearch，他们通过在大语言模型中公开探索工具使用，推动了开源工具使用的发展。

🔧 技术细节

文档未提供技术实现细节，暂不展示。

📄 许可证

此模型使用Meta Llama 3社区许可证。