Llama 3 Groq 70B Tool Use

🚀 Llama-3-70B-Tool-Use

這是Llama 3 Groq工具使用模型的700億參數版本，專為高級工具使用和函數調用任務而設計。它能夠在API交互、結構化數據處理等複雜任務中表現出色，為研究和開發提供強大支持。

✨ 主要特性

• 模型類型：針對工具使用進行微調的因果語言模型
• 支持語言：英語
• 許可證：Meta Llama 3社區許可證
• 模型架構：優化的Transformer架構
• 訓練方法：在Llama 3 70B基礎模型上進行全量微調與直接偏好優化（DPO）
• 輸入：文本
• 輸出：文本，具備增強的工具使用和函數調用能力

📚 詳細文檔

性能表現

• 伯克利函數調用排行榜（BFCL）得分：整體準確率達到90.76%，在所有開源的700億參數大語言模型中表現最佳。

使用場景與限制

本模型適用於工具使用和函數調用場景的研究與開發，在涉及API交互、結構化數據操作和複雜工具使用的任務中表現出色。但用戶需要注意：

• 對於通用知識或開放性任務，通用語言模型可能更合適。
• 在某些情況下，模型仍可能產生不準確或有偏差的內容。
• 用戶需為特定用例實施適當的安全措施。

⚠️ 重要提示

該模型對temperature和top_p採樣配置非常敏感。建議從temperature=0.5, top_p=0.65開始，根據需要進行調整。

文本提示示例

我們要特別感謝@NousResearch，他們通過公開探索大語言模型中的工具使用，推動了開源工具使用的發展。

<|start_header_id|>system<|end_header_id|>

你是一個支持函數調用的AI模型。你會在<tools></tools> XML標籤內獲取函數簽名。你可以調用一個或多個函數來輔助處理用戶查詢。不要對函數的參數值進行假設。對於每個函數調用，請在<tool_call></tool_call> XML標籤內返回一個包含函數名和參數的JSON對象，格式如下：
<tool_call>
{"name": <function-name>,"arguments": <args-dict>}
</tool_call>

以下是可用的工具：
<tools> {
    "name": "get_current_weather",
    "description": "獲取指定地點的當前天氣",
    "parameters": {
        "properties": {
            "location": {
                "description": "城市和州，例如舊金山，加利福尼亞州",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

舊金山的天氣如何？<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"舊金山","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

倫理考量

儘管該模型針對工具使用進行了微調，但它繼承了基礎Llama 3模型的倫理考量。請負責任地使用該模型，並根據應用需求實施額外的保障措施。

模型獲取途徑

該模型可通過以下途徑獲取：

• Groq API控制檯
• Hugging Face

如需瞭解負責任使用、倫理考量和最新基準測試的詳細信息，請參考官方Llama 3文檔和Groq模型卡片。

📄 許可證

本模型使用的許可證為Llama 3許可證。