Sonya 7B

🚀 Sonya-7B

Sonya-7Bは、執筆時点でMT-Benchの初回ターンで1位、GPT-4を上回り、MT-Bench全体では2位を獲得したモデルです。アシスタントやロールプレイなど、あらゆるタスクに適した汎用モデルです。

🚀 クイックスタート

Sonya-7Bは、以前のモデルであるSilicon-Maid-7Bと同様の構造を持ち、非常に似たマージ方法を用いています。このモデルは、xDAN-AI/xDAN-L1-Chat-RL-v1、Jan-Ai's Stealth v1.2、chargoddard/piano-medley-7b、NeverSleep/Noromaid-7B-v0.2、そしてathirdpath/NSFW_DPO_vmgb-7bをマージしたものです。マージの詳細は以下に示します。これらのモデルを組み合わせることで、MT-Benchで親モデルを大幅に上回るスコアを獲得しています。

これらのモデルを選んだ理由は以下の通りです。

• MT-Benchのスコアは実世界でのモデル品質とよく相関しており、xDANはこのベンチマークで良好な成績を収めています。
• マージに使用したほとんどのモデルはAlpacaプロンプト形式を採用しており、プロンプトの一貫性が保たれています。
• Stealth v1.2は、MT-Benchのスコアを向上させる魔法の要素のようです。
• ロールプレイモデルを追加することで、文章作成とロールプレイのベンチマークが向上しました。

親モデルに基づき、このモデルは8192のコンテキストウィンドウで使用することを想定しています。16384のコンテキストを実験的に試す場合は、NTKスケーリングアルファを2.6に設定してください。

率直に言うと、このモデルはテストスコアにもかかわらず、GPTを凌駕するものではありません。7Bモデルとしては非常に優れたモデルで、おそらく7Bモデルとしては大きな威力を発揮しますが、やはり7Bモデルです。たとえ7Bモデルであっても、癖があり、奇妙な出力をすることがあります。これはおそらくマージ方法が複雑であるためです。期待値を適切に設定してください。

✨ 主な機能

MT-Bench平均ターン

🔧 技術詳細

マージの詳細

models:
  - model: xDAN-AI/xDAN-L1-Chat-RL-v1
    parameters:
      weight: 1
      density: 1
  - model: chargoddard/piano-medley-7b
    parameters:
      weight: 0.3
  - model: jan-hq/stealth-v1.2
    parameters:
      weight: 0.2
  - model: NeverSleep/Noromaid-7b-v0.2
    parameters:
      weight: 0.2
  - model: athirdpath/NSFW_DPO_vmgb-7b
    parameters:
      weight: 0.2
merge_method: ties
base_model: mistralai/Mistral-7B-v0.1
parameters:
  density: 0.4
  int8_mask: true
  normalize: true
dtype: bfloat16

追加のトレーニング、ファインチューニング、またはDPOは行われていません。これは単純なマージです。

プロンプトテンプレート (Alpaca)

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

このモデルはxDANプロンプト形式では性能が低下することがわかりました。したがって、このマージにおけるxDANの重みが大きいにもかかわらず、使用を避けることをお勧めします。

その他のベンチマーク情報

########## 初回ターン ##########

########## 2回目のターン ##########

MT-Benchの実行を再現する場合は、Alpacaプロンプトテンプレートをモデルに適用することを確認してください。私はモデルパスに「alpaca」を入力することでAlpacaAdapterをトリガーしました。

📄 ライセンス

このモデルはCC BY 4.0ライセンスの下で提供されています。