Matter 0.1 7B Boost GGUF

🚀 Matter 7B - 0.1 Boost (Mistral 7B微調版)

Matter 7B是一個基於大語言模型的項目，它在特定數據集上進行了全面微調，以提升文本生成能力。其Boost版本更是在額外數據上進行微調，進一步優化了性能。該模型支持函數調用，適用於多種對話場景。

🚀 快速開始

這是該模型的GGUF版本，專為llama.cpp推理引擎打造。Matter 7B在Matter數據集上進行了全面微調，該數據集由超過35個數據集整理而來，分析了超過60億個標記。Boost版本則在一些額外數據上進行了微調。

訓練

提示格式：此模型使用ChatML提示格式。

<|im_start|>system
You are a helpful AI assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

函數調用

該模型還支持函數調用。函數調用的額外標記如下：

模型函數調用標記

• <|begin_func|> - 函數調用開始標記
• <|end_func|> - 函數調用結束標記

函數調用響應標記

• <|begin_func_response|> - 函數響應開始標記
• <|end_func_response|> - 函數響應結束標記

示例

<|im_start|>system
  You are a helpful assistant with access to the following functions. Use them if required -
  { "name": "get_news_headlines",
    "description": "Get the latest news headlines",
    "parameters":
      { "type": "object",
        "properties":
        { "country":
          { "type": "string",
            "description": "The country for which to fetch news"
          }
        },
      "required": [ "country" ]
    }
  }
<|im_end|>
<|im_start|>user
   Can you tell me the latest news headlines for the United States?<|im_end|>
<|im_start|>assistant
  <|begin_func|>{"name": "get_news_headlines", "arguments": '{"country": "United States"}'}<|end_func|><|im_end|>
<|im_start|>user
  <|begin_func_response|>{
    "headlines":
      [
        "Biden announces new vaccine mandates",
        "Hurricane Ida devastates Louisiana",
        "Apple unveils new iPhone",
        "NASA's Perseverance rover collects first Mars rock sample"
      ]
  }<|end_func_response|>
<|im_end|>
<|im_start|>assistant
  Here are the latest news headlines for the United States:
  1. Biden announces new vaccine mandates
  2. Hurricane Ida devastates Louisiana
  3. Apple unveils new iPhone
  4. NASA's Perseverance rover collects first Mars rock sample
<|im_end|>

📄 許可證

本項目採用Apache-2.0許可證。