Llama 3 Groq 8B Tool Use

🚀 Llama-3-Groq-8B-Tool-Use

このモデルは、Llama 3 Groq Tool Useモデルの80億パラメータ版で、高度なツール使用と関数呼び出しタスクに特化して設計されています。

🚀 クイックスタート

このモデルは、ツール使用と関数呼び出しのシナリオにおける研究開発を目的としています。APIの相互作用、構造化データの操作、複雑なツールの使用などのタスクで優れた性能を発揮します。

✨ 主な機能

• APIの相互作用、構造化データの操作、複雑なツールの使用などのタスクで優れた性能を発揮します。
• Berkeley Function Calling Leaderboard (BFCL)で、オープンソースの80億パラメータの大規模言語モデルの中で最高のスコアを記録しています。

📚 ドキュメント

モデルの詳細

性能

• Berkeley Function Calling Leaderboard (BFCL)スコア: 全体的な精度が89.06%です。
• このスコアは、BFCLにおけるすべてのオープンソースの80億パラメータの大規模言語モデルの中で最高の性能を表しています。

使用方法と制限事項

このモデルは、ツール使用と関数呼び出しのシナリオにおける研究開発を目的としています。APIの相互作用、構造化データの操作、複雑なツールの使用などのタスクで優れた性能を発揮します。ただし、ユーザーは以下の点に注意する必要があります。

• 一般的な知識やオープンエンドなタスクには、汎用的な言語モデルの方が適している場合があります。
• モデルは、場合によっては不正確または偏った内容を生成する可能性があります。
• ユーザーは、特定の使用事例に適切な安全対策を実装する責任があります。

⚠️ 重要提示

このモデルは、temperature と top_p のサンプリング設定に非常に敏感です。最初は temperature=0.5, top_p=0.65 から始めて、必要に応じて調整してください。

テキストプロンプトの例

@NousResearch が、大規模言語モデルにおけるツール使用の公開とオープンな探索を通じて、オープンソースのツール使用を前進させてくれたことに、特別な感謝を表します。

<|start_header_id|>system<|end_header_id|>

You are a function calling AI model. You are provided with function signatures within <tools></tools> XML tags. You may call one or more functions to assist with the user query. Don't make assumptions about what values to plug into functions. For each function call return a json object with function name and arguments within <tool_call></tool_call> XML tags as follows:
<tool_call>
{"name": <function-name>,"arguments": <args-dict>}
</tool_call>

Here are the available tools:
<tools> {
    "name": "get_current_weather",
    "description": "Get the current weather in a given location",
    "parameters": {
        "properties": {
            "location": {
                "description": "The city and state, e.g. San Francisco, CA",
                "type": "string"
            },
            "unit": {
                "enum": [
                    "celsius",
                    "fahrenheit"
                ],
                "type": "string"
            }
        },
        "required": [
            "location"
        ],
        "type": "object"
    }
} </tools><|eot_id|><|start_header_id|>user<|end_header_id|>

What is the weather like in San Francisco?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

<tool_call>
{"id":"call_deok","name":"get_current_weather","arguments":{"location":"San Francisco","unit":"celsius"}}
</tool_call><|eot_id|><|start_header_id|>tool<|end_header_id|>

<tool_response>
{"id":"call_deok","result":{"temperature":"72","unit":"celsius"}}
</tool_response><|eot_id|><|start_header_id|>assistant<|end_header_id|>

倫理的な考慮事項

このモデルは、ツール使用のためにファインチューニングされていますが、ベースのLlama 3モデルの倫理的な考慮事項を引き継いでいます。ユーザーは、適切な安全対策を実装し、責任を持って使用する必要があります。

利用可能な場所

このモデルは、以下の場所で利用できます。

• Groq API console
• Hugging Face

詳細な使用方法、倫理的な考慮事項、最新のベンチマークについては、公式のLlama 3ドキュメント とGroqのモデルカードを参照してください。

📄 ライセンス

Meta Llama 3 Community License