Japanese Starling ChatV 7B GGUF

🚀 日本语-Starling-ChatV-7B-GGUF

这是 “日本语-Starling-ChatV-7B” 的GGUF格式转换版本。“日本语-Starling-ChatV-7B” 是一个基于 “chatntq-ja-7b-v1.0” 构建的日语聊天模型，而 “chatntq-ja-7b-v1.0” 最初基于Mistral-7B-v0.1。本模型应用了通过从 “Starling-LM-7B-beta” 的权重中减去Mistral-7B-v0.1的权重而获得的聊天向量。

此模型是以chatntq-ja-7b-v1.0为基础的70亿参数日语聊天模型。它应用了通过从高性能英语模型Starling-LM-7B-beta的权重中减去Mistral-7B-v0.1的权重而得到的聊天向量（博客文章）。

✨ 主要特性

性能

这些得分是使用GPT-4-0125-preview对指令微调后的日语模型在 “ELYZA-tasks-100” 基准测试中的评估结果。请注意，这是使用Q8量化模型进行的简化评估。

提示模板

[INST] <<SYS>>
あなたは役に立つアシスタントです。
<<SYS>>

{prompt} [/INST]

📄 许可证

本项目采用Apache-2.0许可证。