Qwq 32B Snowdrop V0

🚀 QwQ-32B-Snowdrop-v0

QwQ-32B-Snowdrop-v0 是一款具有出色性能的模型，它融合了多個優質基礎模型的特點。在角色扮演、推理等場景中表現良好，能夠生成多樣化且結構合理的回覆，具有很大的應用潛力。

^{QwQwQwQwQwQ 和 Marigold 在一場派對上相遇並一見如故...}

Has 的評價：這模型真的相當不錯！

Severian 的評價：在家進行角色扮演時使用 R1，實際上這個模型能很好地處理包含特殊技巧和微妙策略的內容。搭配合理的推理起始提示，每次重新生成回覆時，都能得到結構一致且具有一定多樣性的回覆。儘管我更注重寫作風格，但角色和場景的刻畫依然出色，有時還能正確引用相關設定。開啟思考模式時，混亂表述的問題並不嚴重。很少觀察到用戶模仿的情況。如果你利用好它的特點（專注於寫作風格），其生成的散文會讓人耳目一新。我原本說 Marigold 會是我的日常首選，但現在這個模型取而代之了，它太棒了。

🚀 快速開始

✨ 推薦設置

• 上下文/指令模板：ChatML。絕對沒有使用 ChatML 指令和 Mistral v7 模板進行測試哦，沒有啦。
• 採樣器設置：溫度設為 0.9，最小概率（min_p）設為 0.05，頂部概率（top_a）設為 0.3，尾部自由採樣（TFS）設為 0.75，重複懲罰（repetition_penalty）設為 1.03，如果可以使用動態重複懲罰（DRY）也可開啟。

在我們的測試中，基於 virt - io 的衍生提示效果最佳，但你也可以根據喜好選擇。

ST 的主導入鏈接：https://files.catbox.moe/b6nwbc.json

🔍 推理建議

你可以自由測試你最熟悉的推理設置，以下是我的推薦。我的提示中有這樣一行：

風格偏好：鼓勵使用日本輕小說的寫作風格。

基於此，我的推理起始提示是：

<think>好的，在這個場景中，回覆之前我需要考慮提示中提到的寫作風格，即

至少在測試過程中，這樣的設置為推理提供了一個可遵循的結構，每次重新生成回覆時都會關注提示的這部分內容。

不過，回覆仍然具有多樣性，因為後續段落會深入到角色細節等方面。你可以嘗試創建自己的思考/推理起始提示，專注於你期望從回覆中獲得的內容，以達到最佳效果。

— Severian

📚 詳細文檔

🌟 感謝語

非常感謝 trashpanda - org discord 群裡的朋友們進行測試並分享日誌！

👍 評價

優點：

• 在 10 次測試中，只有兩次出現代表 {{用戶}} 發言的小問題。（不過，通過良好的提示可能可以解決這個問題。）
• 創造力：10 次測試中有 8 次，回覆的 90% 內容都是獨特的，幾乎沒有陳詞濫調。
• 角色刻畫：能考慮角色的個性並很好地保持一致。即使沒有設定集支持，也能記住特定的設定術語並正確理解其含義。
• NPC 表現：10 次測試中有 6 次，NPC 角色也參與到行動中，遵循開場信息中提供的關於他們的信息。有些 NPC 甚至有獨特的說話方式。（如果有合適的設定集，效果會更好。）
• 戰鬥場景描述：對戰鬥場景的描述毫不保留，魔法攻擊、物理攻擊等都能詳細呈現。

缺點：

• 有些回覆有點不符合角色設定。有些回覆比較平淡，對角色扮演的上下文提供的信息很少或沒有分量。

在我最近嘗試的所有模型中，這個模型絕對最有潛力。通過合適的提示，我認為這個模型在獨特場景中會成為最好的模型之一。

— Sellvene

這可能是目前最好的小型思考模型之一，甚至可能是最好的。它對角色的把握非常好，混亂表述幾乎不存在，當然還是有一點點。它能很好地推進故事並遵循提示。我喜歡 R1，但現在我更喜歡 Snowdrop，因為它的回覆感覺更真實，相比 R1 不那麼激進。

— Carmenta

它的寫作能力比 GPT 4.5 還好。總體來說，我認為審查機制影響了一些更自由奔放的模型，這個模型對我來說太溫和了。我還注意到，它過於追求與角色設定一致，不敢偏離設定。

— Myscell

我太驚訝了，它在思考過程中的角色分析和 R1 很相似。角色處理看起來很棒。如果融合能達到這麼好的效果，我很期待 QwQ 的微調版本。

— Sam

混亂表述幾乎可以忽略不計，而且沒有正向偏差，這很好。到目前為止，我很喜歡這個模型，在家用它就像用 R1 一樣順手。

— Raihanbook

總體來說，我認為這是一個非常可靠的模型。上下文處理能力很棒，能很好地遵循我的提示。說實話，在推理方面它是第一名。它對角色和個性細節的刻畫？完美。敘述也很完美。我對這個模型幾乎沒有什麼抱怨，你們做得太棒了。

— Moothdragon

在我這裡，沒有正向偏差🤔 角色和場景的刻畫很好。生成的散文我也很喜歡。在這個模型和 Marigold 之間，我現在更傾向於 Snowdrop。不過目前，還是 Marigold 用得更多一些。

— Azula

說實話，我印象深刻，很喜歡這個模型。

— OMGWTFBBQ

這模型相當不錯，我覺得比 Mullein 好。

— br

到目前為止，它表現非常出色。我還沒發現它有視角混亂的問題。

— Overloke

😜 輕鬆時刻

📋 日誌

(在以 Gemini 開始的一輪測試後)

🔧 合併詳情

合併方法

此模型使用 TIES 合併方法，以 Qwen/Qwen2.5-32B 為基礎模型進行合併。

合併的模型

以下模型參與了合併：

• trashpanda-org/Qwen2.5-32B-Marigold-v0
• Qwen/QwQ-32B
• trashpanda-org/Qwen2.5-32B-Marigold-v0-exp

配置

以下 YAML 配置用於生成此模型：

models:
  - model: trashpanda-org/Qwen2.5-32B-Marigold-v0-exp
    parameters:
      weight: 1
      density: 1
  - model: trashpanda-org/Qwen2.5-32B-Marigold-v0
    parameters:
      weight: 1
      density: 1
  - model: Qwen/QwQ-32B
    parameters:
      weight: 0.9
      density: 0.9
merge_method: ties
base_model: Qwen/Qwen2.5-32B
parameters:
  weight: 0.9
  density: 0.9
  normalize: true
  int8_mask: true
tokenizer_source: Qwen/Qwen2.5-32B-Instruct
dtype: bfloat16