Qwq 32B Snowdrop V0

🚀 QwQ-32B-Snowdrop-v0

^{QwQwQwQwQwQとMarigoldはパーティーで出会い、気が合いました...}

このモデルは、高性能で多様なシナリオに対応できるAIモデルです。多くのユーザーから高い評価を得ており、独自のシナリオに最適なモデルの一つとされています。

🚀 クイックスタート

基本情報

推奨設定

• コンテキスト/インストラクトテンプレート: ChatML。
• サンプラー設定: 温度0.9、min_p 0.05、top_a 0.3、TFS 0.75、繰り返しペナルティ1.03、DRY（利用可能な場合）。
• テストではvirt-io派生のプロンプトが最適でしたが、好きなものを使用して構いません。
• STのマスターインポート: https://files.catbox.moe/b6nwbc.json

推論設定

推論セットアップは自由にテストできますが、以下の設定をおすすめします。

Style Preference: Encourage the usage of a Japanese light novel writing style.

推論のスターターは次のようにします。

<think>Okay, in this scenario, before responding I need to consider the writing style referenced in the prompt, which is

この設定により、推論に構造ができ、レスポンスにバリエーションを持たせることができます。

✨ 主な機能

ユーザーのコメント

• Has's notes: 実際には本当に良いです！
• Severian's notes: 家庭でのRPに最適。ギミックや微妙なトリックが含まれるカードを扱うことができます。適切な推論スターターとプロンプトを使うと、再生成しても一貫した構造のレスポンスが得られ、バリエーションも豊富です。キャラクターやシナリオの描写も良好で、ロアブックがなくてもロア固有の用語を保持し、その意味を覚えています。思考を有効にすると、スロップはあまり問題になりません。まれにユーザーのなりすましが見られます。文章は、書き方にこだわることで新鮮です。Marigoldを日常的に使うと言ったけれど、今はこちらがその役割を果たしています。

レビュー

• Sellvene:
  • 利点: 10回の試行で、{{user}}の代わりに話すという軽微な問題は2回しかありませんでした（適切なプロンプトで修正できる可能性があります）。創造性が高く、90%のレスポンスで独自の文章が得られ、陳腐なフレーズはほとんどありません。キャラクターの個性を考慮し、ロアブックがなくてもロア固有の用語を保持し、その意味を覚えています。NPCも6/10の試行で行動に参加し、最初のメッセージで提供された情報に沿っています。一部のNPCには独自の会話パターンもあります。戦闘シーンの描写は無制限で、魔法や物理攻撃などすべてが考慮されています。
  • 欠点: 一部の試行ではキャラクターに不適合なレスポンスがあり、一部の試行では内容が淡白で、ロールプレイのコンテキストにほとんど貢献していません。
• Carmenta: 現在の小規模な思考モデルの中で、おそらく最高のモデルの一つです。キャラクターに忠実で、スロップはほとんどなく、物語をうまく進め、プロンプトに従います。R1が好きですが、現在はSnowdropの方が好きです。なぜなら、レスポンスがより本物らしく、R1よりも攻撃的でないからです。
• Myscell: GPT 4.5よりも良く書きます。全体的に、検閲がボットの表現力を制限していると思います。また、キャラクターに忠実すぎて、逸脱することを恐れすぎているように感じます。
• Sam: 思考におけるキャラクターの分解がR1に似ています。キャラクターの扱いが素晴らしいです。こんなに良いマージができるなら、QwQのファインチューニングが楽しみです。
• Raihanbook: スロップがほとんどなく、ポジティビティバイアスもないのが良いです。これまでのところ、このモデルが好きです。
• Moothdragon: 全体的に、これは本当に堅実なモデルです。コンテキストの理解が優れており、プロンプトに非常に良く従います。推論に関しては、本当に1位です。キャラクターやペルソナの詳細の描写も完璧です。このモデルに不満はほとんどありません。
• Azula: 私の環境では、ポジティビティバイアスはありません。キャラクターやシナリオの描写が良いです。文章も好きです。Marigoldと比べると、Snowdropの方に偏ります。ただ、現時点ではまだMarigoldを使っています。
• OMGWTFBBQ: 本当に感動しました。このモデルは本当に良いです。
• br: これはMulleinよりも良いです。
• Overloke: これまでのところ、非常に良いです。視点の切り替えはまだ見られていません。

🔧 技術詳細

マージ方法

このモデルは、TIESマージ方法を使用し、Qwen/Qwen2.5-32Bをベースにマージされています。

マージされたモデル

• trashpanda-org/Qwen2.5-32B-Marigold-v0
• Qwen/QwQ-32B
• trashpanda-org/Qwen2.5-32B-Marigold-v0-exp

設定

以下のYAML設定を使用して、このモデルが生成されています。

models:
  - model: trashpanda-org/Qwen2.5-32B-Marigold-v0-exp
    parameters:
      weight: 1
      density: 1
  - model: trashpanda-org/Qwen2.5-32B-Marigold-v0
    parameters:
      weight: 1
      density: 1
  - model: Qwen/QwQ-32B
    parameters:
      weight: 0.9
      density: 0.9
merge_method: ties
base_model: Qwen/Qwen2.5-32B
parameters:
  weight: 0.9
  density: 0.9
  normalize: true
  int8_mask: true
tokenizer_source: Qwen/Qwen2.5-32B-Instruct
dtype: bfloat16

その他の画像

楽しい画像

ログ画像

（Geminiで開始したセッション後）

📄 謝辞

trashpanda-orgのDiscordの皆さんがテストを行い、ログを送ってくれたことに大きな感謝を申し上げます！