Japanese Starling ChatV 7B GGUF

🚀 Japanese-Starling-ChatV-7B-GGUF

「Japanese-Starling-ChatV-7B-GGUF」は、「Japanese-Starling-ChatV-7B」をGGUF形式に変換したものです。「Japanese-Starling-ChatV-7B」は、「chatntq-ja-7b-v1.0」をベースに構築された日本語チャットモデルで、元はMistral-7B-v0.1に基づいています。このモデルには、「Starling-LM-7B-beta」の重みからMistral-7B-v0.1の重みを差し引いて得られたチャットベクトルを適用しています。

このモデルはchatntq-ja-7b-v1.0をベースにした7Bパラメータの日本語チャットモデルです。高性能の英語モデルであるStarling-LM-7B-betaの重みからMistral-7B-v0.1の重みを差し引くことで得たchat vectorを適用しています（ブログ記事）。

✨ 主な機能

このモデルは、日本語のチャットタスクに特化しており、高性能の英語モデルのチャットベクトルを適用することで、日本語での会話能力を向上させています。

📚 ドキュメント

性能

このスコアは、GPT-4-0125-previewによって評価された、instruction-tuningを行った日本語モデルのベンチマーク「ELYZA-tasks-100」の結果です。Q8量子化モデルを用いた簡易的な評価であることにご留意ください。

プロンプトテンプレート

[INST] <<SYS>>
あなたは役に立つアシスタントです。
<<;/SYS>>

{prompt} [/INST]

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。