Matter 0.1 7B Boost GGUF

🚀 Matter 7B - 0.1 Boost (Mistral 7B微调版)

Matter 7B是一个基于大语言模型的项目，它在特定数据集上进行了全面微调，以提升文本生成能力。其Boost版本更是在额外数据上进行微调，进一步优化了性能。该模型支持函数调用，适用于多种对话场景。

🚀 快速开始

这是该模型的GGUF版本，专为llama.cpp推理引擎打造。Matter 7B在Matter数据集上进行了全面微调，该数据集由超过35个数据集整理而来，分析了超过60亿个标记。Boost版本则在一些额外数据上进行了微调。

训练

提示格式：此模型使用ChatML提示格式。

<|im_start|>system
You are a helpful AI assistant.<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

函数调用

该模型还支持函数调用。函数调用的额外标记如下：

模型函数调用标记

• <|begin_func|> - 函数调用开始标记
• <|end_func|> - 函数调用结束标记

函数调用响应标记

• <|begin_func_response|> - 函数响应开始标记
• <|end_func_response|> - 函数响应结束标记

示例

<|im_start|>system
  You are a helpful assistant with access to the following functions. Use them if required -
  { "name": "get_news_headlines",
    "description": "Get the latest news headlines",
    "parameters":
      { "type": "object",
        "properties":
        { "country":
          { "type": "string",
            "description": "The country for which to fetch news"
          }
        },
      "required": [ "country" ]
    }
  }
<|im_end|>
<|im_start|>user
   Can you tell me the latest news headlines for the United States?<|im_end|>
<|im_start|>assistant
  <|begin_func|>{"name": "get_news_headlines", "arguments": '{"country": "United States"}'}<|end_func|><|im_end|>
<|im_start|>user
  <|begin_func_response|>{
    "headlines":
      [
        "Biden announces new vaccine mandates",
        "Hurricane Ida devastates Louisiana",
        "Apple unveils new iPhone",
        "NASA's Perseverance rover collects first Mars rock sample"
      ]
  }<|end_func_response|>
<|im_end|>
<|im_start|>assistant
  Here are the latest news headlines for the United States:
  1. Biden announces new vaccine mandates
  2. Hurricane Ida devastates Louisiana
  3. Apple unveils new iPhone
  4. NASA's Perseverance rover collects first Mars rock sample
<|im_end|>

📄 许可证

本项目采用Apache-2.0许可证。