Kunoichi DPO 7B

🚀 クノイチ-DPO-7B

クノイチ-DPO-7B は、Kunoichi-7B モデルをベースに、インテルのOrcaデータペアとAlpacaテンプレートを用いて直接嗜好最適化（DPO）による微調整を行ったモデルです。このモデルは主に汎用シーンを対象としています。テストでは、Kunoichi-7B よりも強力な推論と命令遵守能力を持っていますが、Orcaデータセットのアライメントにより、ロールプレイ能力が低下する可能性があります。

現在、このモデルはベンチマークテスト中です。結果が確定したら、モデルページを更新します。

🚀 クイックスタート

このセクションでは、クイックスタートに関する内容が提供されていません。

✨ 主な機能

• Kunoichi-7B をベースに DPO 微調整を行っているため、推論と命令遵守能力がより強力です。
• 汎用シーンに適していますが、データセットのアライメントにより、ロールプレイ能力が影響を受ける可能性があります。
• 最大 8k のコンテキストウィンドウをサポートしています。NTK RoPE alpha を 2.6 に設定すると、実験的に 16k のコンテキストウィンドウもサポートできます。

📚 ドキュメント

モデル性能

プロンプトテンプレート

Alpaca テンプレート

以下はタスクを説明する命令です。要求を適切に完了する応答を書いてください。

### 命令:
{prompt}

### 応答:

SillyTavern 形式

SillyTavern では、Noromaid テンプレートを使用すると最適な結果が得られます。

SillyTavern の設定ファイル：コンテキスト設定、命令設定。

また、テキスト生成プリセット の使用を強くおすすめします。温度や最小確率（min p）を調整することで、創造性や安定性を向上させることができます。他のパラメータは通常調整する必要はありません。

コンテキストウィンドウ

このモデルは最大 8k のコンテキストウィンドウをサポートしています。NTK RoPE alpha を 2.6 に設定すると、実験的に 16k のコンテキストウィンドウもサポートできます。

📄 ライセンス

このモデルは CC BY-NC 4.0 ライセンスを採用しています。