Llama 3 Groq 8B Tool Use

🚀 Llama-3-Groq-8B-Tool-Use

這是Llama 3 Groq工具使用模型的80億參數版本，專為高級工具使用和函數調用任務而設計。它在工具使用和函數調用方面具有強大的能力，能有效處理複雜的任務。

✨ 主要特性

• 先進的工具使用能力：專為高級工具使用和函數調用任務設計，在API交互、結構化數據操作等任務中表現出色。
• 高性能表現：在伯克利函數調用排行榜（BFCL）上總體準確率達到89.06%，在所有開源80億參數大語言模型中表現最佳。
• 優化的模型架構：採用優化的Transformer架構，經過全量微調以及直接偏好優化（DPO）訓練。

📦 安裝指南

文檔未提供安裝步驟，暫不展示。

💻 使用示例

基礎用法

<|start_header_id|>system<|end_header_id|>

You are a function calling AI model. You are provided with function signatures within <tools></tools> XML tags. You may call one or more functions to assist with the user query. Don't make assumptions about what values to plug into functions. For each function call return a json object with function name and arguments within <tool_call></tool_call> XML tags as follows:
<tool_call>
{"name": <function-name>,"arguments": <args-dict>}
</tool_call>

Here are the available tools:
<tools> {
    "name": "get_current_weather",
    "description": "Get the current weather in a given location",
    "parameters": {
        "properties": {
            "location": {
                "description": "The city and state, e.g. San Francisco, CA",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

What is the weather like in San Francisco?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"San Francisco","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

高級用法

文檔未提供高級用法示例，暫不展示。

📚 詳細文檔

模型詳情

性能表現

• 伯克利函數調用排行榜（BFCL）得分：總體準確率89.06%，此得分代表了所有開源80億參數大語言模型在BFCL上的最佳表現。

使用與限制

此模型專為工具使用和函數調用場景的研究與開發而設計，在涉及API交互、結構化數據操作和複雜工具使用的任務中表現出色。但用戶需注意：

• 對於一般知識或開放式任務，通用語言模型可能更合適。
• 模型在某些情況下仍可能產生不準確或有偏差的內容。
• 用戶需為其特定用例實施適當的安全措施。

⚠️ 重要提示

該模型對temperature和top_p採樣配置非常敏感，建議從temperature=0.5, top_p=0.65開始，根據需要進行調整。

文本提示示例

我們要特別感謝@NousResearch，他們通過在大語言模型中公開探索工具使用，推動了開源工具使用的發展。

🔧 技術細節

文檔未提供技術實現細節，暫不展示。

📄 許可證

此模型使用Meta Llama 3社區許可證。