Rose 20B

🚀 Rose-20B

Rose-20Bは、CalderaAIのThorns-13BとNeverSleep (IkariDev and Undi)のNoromaid-13-v0.1.1を融合した実験的なモデルです。ロールプレイシナリオでの性能が高いことが期待されています。

その他の形式

• GGUF
• GPTQ
• AWQ
• exl2

モデルの詳細

このモデルは、CalderaAIのThorns-13BとNeverSleep (IkariDev and Undi)のNoromaid-13-v0.1.1を融合したFrankenmergeモデルです。このレシピはTrappuによって提案され、レイヤー分布レシピはUndiによって作成されました。彼らが知識を共有してくれたことに感謝します。このモデルは、あらゆるロールプレイシナリオで非常に優れた性能を発揮すると思われます。「ローズ」と名付けたのは、「とげのあるメイド」にぴったりな名前だからです。

推奨するフォーマットはAlpacaです。

Below is an instruction that describes a task. Write a response that appropriately completes the request.

### Instruction:
{prompt}

### Response:

他に機能するプロンプトを自由に共有してください。このモデルは非常に堅牢です。

⚠️ 重要提示

このモデルは、KVキャッシュの増加により、コンテキストウィンドウに必要なVRAMが増えるため、大幅に多くのVRAMを使用します。

存在理由

当社のデータセットを使用したファインチューニング実験の潜在的なベースモデルとして、Pygmalion-20Bを作成するために使用できます。すでに高い性能を持っているため、当社のデータセットを追加すると、モデルの性能とよく調和します。また、他の20B Frankenmergeモデルとの融合実験も可能です。

モデルのレシピ

slices:
  - sources:
    - model: Thorns-13B
      layer_range: [0, 16]
  - sources:
    - model: Noromaid-13B
      layer_range: [8, 24]
  - sources:
    - model: Thorns-13B
      layer_range: [17, 32]
  - sources:
    - model: Noromaid-13B
      layer_range: [25, 40]
merge_method: passthrough
dtype: float16

再び、レシピの作成者であるUndiに感謝します。

評価

このモデルは、PygmalionAI Discordコミュニティの一部のメンバーにテスト用に提供されました。大多数のメンバーがこのモデルを大いに喜んで使用しており、わずかなメンバーだけが普通の評価をしています。当コミュニティはロールプレイングモデルに対する基準が高いため、このような肯定的な評価は驚きでした。

お問い合わせ

このモデルについて話したい場合は、Discordでtav (tav)にメッセージを送ってください。いつでもコメントを受け付けています。

📄 ライセンス

このモデルはLlama2ライセンスの下で提供されています。