Japanese Starling ChatV 7B GGUF

🚀 日本語-Starling-ChatV-7B-GGUF

這是 “日本語-Starling-ChatV-7B” 的GGUF格式轉換版本。“日本語-Starling-ChatV-7B” 是一個基於 “chatntq-ja-7b-v1.0” 構建的日語聊天模型，而 “chatntq-ja-7b-v1.0” 最初基於Mistral-7B-v0.1。本模型應用了通過從 “Starling-LM-7B-beta” 的權重中減去Mistral-7B-v0.1的權重而獲得的聊天向量。

此模型是以chatntq-ja-7b-v1.0為基礎的70億參數日語聊天模型。它應用了通過從高性能英語模型Starling-LM-7B-beta的權重中減去Mistral-7B-v0.1的權重而得到的聊天向量（博客文章）。

✨ 主要特性

性能

這些得分是使用GPT-4-0125-preview對指令微調後的日語模型在 “ELYZA-tasks-100” 基準測試中的評估結果。請注意，這是使用Q8量化模型進行的簡化評估。

提示模板

[INST] <<SYS>>
あなたは役に立つアシスタントです。
<<SYS>>

{prompt} [/INST]

📄 許可證

本項目採用Apache-2.0許可證。