Openhermes 2.5 Neural Chat 7b V3 2 7B

🚀 OpenHermes-2.5-neural-chat-7b-v3-2-7B

teknium/OpenHermes-2.5-Mistral-7BとIntel/neural-chat-7b-v3-2をties mergeでマージしたモデルです。自然言語処理タスクに利用できます。

🚀 クイックスタート

このモデルは、teknium/OpenHermes-2.5-Mistral-7B と Intel/neural-chat-7b-v3-2 をties mergeでマージして作成されています。

⚠️ 重要提示

Intel/neural-chat-7b-v3-1 のマージバージョンは こちら で利用できます。

✨ 主な機能

• 複数の自然言語処理タスクに対応しています。
• 異なるプロンプトテンプレートをサポートしています。
• 量子化バージョンが利用可能です。

📚 ドキュメント

重み

• teknium/OpenHermes-2.5-Mistral-7B: 0.5
• Intel/neural-chat-7b-v3-2: 0.3

密度

• teknium/OpenHermes-2.5-Mistral-7B: 0.5
• Intel/neural-chat-7b-v3-2: 0.5

プロンプトテンプレート

ChatMLの使用をおすすめしますが、以下のプロンプトテンプレートも利用できます。

ChatML (OpenHermes-2.5-Mistral-7B):

<|im_start|>system
{system}<|im_end|>
<|im_start|>user
{user}<|im_end|>
<|im_start|>assistant
{asistant}<|im_end|>

neural-chat-7b-v3-2:

### System:
{system}
### User:
{user}
### Assistant:

量子化バージョン

TheBloke のおかげで、このモデルの量子化バージョンが利用可能です。

GPTQ

• TheBloke/OpenHermes-2.5-neural-chat-7B-v3-2-7B-GPTQ

GGUF

• TheBloke/OpenHermes-2.5-neural-chat-7B-v3-2-7B-GGUF

AWQ

• TheBloke/OpenHermes-2.5-neural-chat-7B-v3-2-7B-AWQ

Open LLM Leaderboard評価結果

詳細な結果は こちら で確認できます。

支援方法

もしサポートしたい場合は、以下のリンクから支援できます。 ☕ Buy Me a Coffee

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。