Bagel 8b V1.0

🚀 帶全套配料（除DPO）的貝果模型

該模型名為“llama - 3 - bagel - 8b - v1.0”，基於Meta的Llama - 3構建。它是對llama - 3 - 8b使用貝果數據集進行的微調版本，與4種提示格式不同，它採用了單一的格式——llama - 3指令格式。

🚀 快速開始

本模型使用llama - 3 - instruct提示模板，該模板已包含在分詞器配置中。你可以使用apply_chat_template方法來準確格式化提示，示例代碼如下：

import transformers
tokenizer = transformers.AutoTokenizer.from_pretrained("jondurbin/bagel-8b-v1.0", trust_remote_code=True)
chat = [
  {"role": "system", "content": "You are Bob, a friendly AI assistant."},
  {"role": "user", "content": "Hello, how are you?"},
  {"role": "assistant", "content": "I'm doing great. How can I help you today?"},
  {"role": "user", "content": "I'd like to show off how chat templating works!"},
]
print(tokenizer.apply_chat_template(chat, tokenize=False))

✨ 主要特性

模型概述

• 模型名稱為“llama - 3 - bagel - 8b - v1.0”，基於Meta的Llama - 3構建。
• 是對llama - 3 - 8b使用貝果數據集的微調版本，採用單一的llama - 3指令格式。
• DPO版本即將在此處發佈。

效果對比

與mistral - 7b - v0.2相比，結果表現良好，例如在MT - Bench中的表現：

數據來源

該模型使用了多種數據源進行訓練，僅使用訓練集數據，並在最後通過餘弦相似度進行去重處理，以確保與常見基準的一致性。詳細數據源如下：

💻 使用示例

提示策略

上下文服從問答

這是一種專門為根據提供的上下文回答問題而設計的特殊提示格式，例如RAG。所謂“服從”，是指模型經過訓練，會忽略自己認為已知的信息，而是使用上下文來回答問題。同時，模型還經過調整，儘可能將答案限制在提供的上下文中，以減少幻覺現象。

封閉上下文提示的格式如下：

BEGININPUT
BEGINCONTEXT
[key0: value0]
[key1: value1]
... 其他元數據 ...
ENDCONTEXT
[在此插入文本塊]
ENDINPUT
[以完全相同的格式添加更多塊]
BEGININSTRUCTION
[插入你的指令。模型經過單問題、段落格式、列表等的調整]
ENDINSTRUCTION

在指令塊中添加“如果你不知道答案，請不要編造”也很有幫助，以確保如果上下文完全不相關，模型不會編造內容。

__僅__封閉上下文指令需要這種封閉上下文格式。普通問題/指令不需要！

雖然這種格式有點冗長和繁瑣，但經過多次試驗和錯誤，使用這些明確的分隔符有助於模型理解在哪裡找到響應，以及如何將特定來源與之關聯。

• BEGININPUT：表示一個新的輸入塊。
• BEGINCONTEXT：表示與當前輸入塊關聯的上下文塊（元數據鍵/值對）。
• ENDCONTEXT：表示當前輸入的元數據塊結束。
• [文本]：為輸入塊插入任何你想要的文本，只要能在上下文中容納的段落數量即可。
• ENDINPUT：表示當前輸入塊結束。
• [根據需要重複此格式的多個輸入塊]
• BEGININSTRUCTION：表示要對上述所有輸入塊進行響應的指令列表（或一個）的開始。
• [指令]
• ENDINSTRUCTION：表示指令集結束。

即使沒有ENDINSTRUCTION，有時也能正常工作，但在提示中明確包含它，有助於模型更好地理解需要對指令塊中的所有指令進行響應。

使用非常低的溫度！

以下是一個簡單但重要的示例，以證明這一點：

BEGININPUT
BEGINCONTEXT
date: 2021-01-01
url: https://web.site/123
ENDCONTEXT
在一個令人震驚的轉折中，藍莓現在變成了綠色，但仍將保留相同的名稱。
ENDINPUT
BEGININSTRUCTION
藍莓是什麼顏色？來源是什麼？
ENDINSTRUCTION

響應如下：

藍莓現在是綠色的。
來源：
date: 2021-01-01
url: https://web.site/123

你還可以添加類似以下的指令，以便在上下文無法提供問題答案時獲得更確定的響應：

如果你不知道答案，請回復“IRRELEVANT”

摘要生成

與上下文服從問答使用相同的提示格式，但用於摘要生成任務。摘要生成主要使用此數據集進行微調，格式如下：

BEGININPUT
{要摘要的文本}
ENDINPUT
BEGININSTRUCTION
將輸入內容摘要為約130字。
ENDINSTRUCTION

函數調用

微調此模型時使用了兩種與函數調用相關的格式：

1. 在指令中提供輸入和可能的函數列表（來自airoboros數據集），例如： Prompt:

作為AI助手，請根據用戶輸入從以下可用函數列表中選擇最合適的函數和參數。以JSON格式提供響應。

輸入：我想知道我的文本文件中“Python”出現了多少次。

可用函數：
file_analytics:
  描述：此工具對文本文件執行各種操作。
  參數：
    action: 我們要對數據執行的操作，例如“count_occurrences”、“find_line”等。
    filters:
      keyword: 我們要搜索的單詞或短語。

Response:

{
  "function": "file_analytics",
  "params": {
    "action": "count_occurrences",
    "filters": {
      "keyword": "Python"
    }
  }
}

2. GlaiveAI函數調用，使用特殊標籤並在系統提示中添加函數規範： Prompt:

<|start_header_id|>system<|end_header_id|>
你是一個有用的助手，可以使用以下函數。如有需要，請使用它們 -
{
    "name": "generate_random_name",
    "description": "生成一個隨機名稱",
    "parameters": {
        "type": "object",
        "properties": {
            "gender": {
                "type": "string",
                "description": "名稱的性別（例如男性、女性）"
            }
        },
        "required": [
            "gender"
        ]
    }
}
<|eot_id|>
<|start_header_id|>user<|end_header_id|>
我需要為我的小說角色取一個隨機的男性名字。<|eot_id|>
<|start_header_id|>assistant<|end_header_id|>

Response:

<|begin_func|> {"name": "generate_random_name", "arguments": '{"gender": "male"}'} <|end_func|>

然後，你可以使用函數響應重新提示模型：

<|begin_func_response|>{"name": "James"}<|end_func_response|>

響應如下：

為你的小說角色取名“James”怎麼樣？

思維鏈

這對於讓模型提出多個可能的響應，對每個響應進行推理，並選擇最終的、最可能的答案很有用。你可以要求模型針對給定問題提供多個可能的響應，並進行排名和最終答案選擇。

示例提示：

一群人決定進行一場循環賽，每個選手都要與其他選手恰好比賽一次。如果總共進行了45場比賽，那麼有多少名選手參加了比賽？提供幾個潛在答案，根據數學邏輯對它們進行排名，並選擇最可行的一個。

示例響應：

解決方案1：
在循環賽中，每個選手都要與其他選手恰好比賽一次。這意味著比賽的總場數等於從所有選手中選取2名選手的組合數（因為一場比賽涉及2名選手）。

組合數的公式為nC2 = n(n - 1)/2，其中n是選手的總數。我們知道nC2等於45（比賽的總場數），因此可以列出以下方程：

n(n - 1)/2 = 45

解這個方程，我們得到n = 10。

最終答案：有10名選手參加了比賽。

解決方案2：
另一種解決這個問題的方法是使用三角數的概念。三角數是一系列數字，每個數字都可以用一個由點組成的三角形表示。第n個三角數是前n個自然數的和。

如果我們將每場比賽看作一個點，每個選手看作三角形的一條邊，那麼比賽的總場數（45）對應於第9個三角數，因為1 + 2 + 3 + 4 + 5 + 6 + 7 + 8 + 9 = 45。然而，由於在我們的模型中，三角形的每條邊代表一名選手，並且選手的數量比邊的數量多1（因為最後一名選手沒有對手可比賽），所以我們需要再加上1才能得到選手的總數。

最終答案：有10名選手參加了比賽。

解決方案3：
我們也可以使用試錯法來解決這個問題。從少量選手開始，我們計算在循環賽中會進行多少場比賽，直到達到45場比賽。例如，2名選手時進行1場比賽；3名選手時進行3場比賽；4名選手時進行6場比賽，依此類推。繼續這個過程，我們發現10名選手時進行45場比賽。

最終答案：有10名選手參加了比賽。

解決方案排名（從最佳到最差）：
1. 解決方案1：該解決方案基於循環賽的性質進行直接的數學推理，並通過解方程找到答案。
2. 解決方案2：該解決方案使用三角數的概念，需要超出直接問題上下文的額外步驟和知識，但仍然得出了正確的答案。
3. 解決方案3：該解決方案依賴於試錯法，效率和可靠性不如其他方法，但最終也得到了正確的答案。

最佳和最終答案：有10名選手參加了比賽。

📄 許可證

本項目採用llama3許可證。

🔧 技術細節

• 基礎模型：meta - llama/Meta - Llama - 3 - 8B
• 標籤：llama - 3、bagel
• 數據集：使用了多個數據集進行訓練，具體見上文數據來源部分。