Qwen2.5 The Wisemen QwQ Deep Tiny Sherlock 32B

library_name: transformers tags:

• QwQ-32B
• reasoning
• thinking
• r1
• cot
• deepseek
• Qwen2.5
• Hermes
• DeepHermes
• DeepSeek
• DeepSeek-R1-Distill
• 128k context
• merge base_model:
• Qwen/QwQ-32B
• qihoo360/TinyR1-32B-Preview
• deepseek-ai/DeepSeek-R1-Distill-Qwen-32B
• OpenPipe/Deductive-Reasoning-Qwen-32B license: apache-2.0

Qwen2.5-The-Wisemen-QwQ-Deep-Tiny-Sherlock-32B

このリポジトリには、GGUF、GPTQ、EXL2、AWQ、HQQなどの形式を生成するための「セーフテンソル」形式の完全精度ソースコードが含まれています。 ソースコードは直接使用することも可能です。

このモデルは、Qwenの優れた「QwQ 32B」推論・思考モデルを基盤としており、さらに3つのトップ推論モデルの特徴を加えています。

このモデルは検閲もされていません。

以下に（gguf形式の）生成例を示します。異なる量子化レベルでの例も含まれています。

このモデルは、プロンプト内の「過剰な思考」を減らし、3つの追加推論モデルを統合することで、モデル自体にわずかに異なる推論を導入するように設計されました。

場合によっては、特に創造的なユースケースにおいて、推論がより深く、詳細になります。

出力も改善されており、これも特に創造的なユースケースで顕著です。

このモデルは非常に安定しており、最も低い量子化でも強力です。

合計4つのモデルを統合したQwen2.5「The Wisemen」推論モデル：

Qwen2.5-The-Wisemen-QwQ-Deep-Tiny-Sherlock-32B:

• "QwQ" : QwQ-32B (メイン)
• "Deep": DeepSeek-R1-Distill-Qwen-32B
• "Tiny": Qwen2.5-32B-TinyR1-Preview
• "Sherlock" : Deductive-Reasoning-Qwen-32B

256ポイント精度（レイヤーごと）のDARE TIESマージで統合されています。

128kコンテキスト、ChatMLまたはJinjaテンプレートが必要です。

GGUFS / モデルの詳細:

[ https://huggingface.co/DavidAU/Qwen2.5-The-Wisemen-QwQ-Deep-Tiny-Sherlock-32B-GGUF ]

例:

例は量子化Q2K（最小/最小サイズの量子化）、最小パラメータ、「ChatML」テンプレートを使用して作成されています。

1つの生成ではQ3KMを使用し（最初の1つはQ2k）、量子化の「パワー」の違いを示しています。

温度範囲.8、Rep pen 1.1、TopK 40、topP .95、minP .05

Rep pen範囲: 64-128（推論を軌道に乗せる/出力の品質を維持するのに役立ちます）

以下は最も創造性の低い出力で、プロンプトは太字で示されています。

これは最小/最小サイズの量子化から生成されたため、より高い量子化やImatrix量子化ではより良い性能を発揮します。

警告: NSFW。グラフィックなホラー。卑語。検閲なし。

注: コピー/ペーストHTMLから一部のフォーマットが失われています。

例 #1

1000語のシーン（鮮烈でグラフィックなホラー、一人称視点）を次のように始めてください: 超高層ビルが揺れ、21階の目の前の窓が爆発するのを見た...

27.73秒間考え中

わかりました、そのプロンプトに基づいてホラーストーリーを始める必要があります。見てみましょう... ユーザーは、超高層ビルが揺れ、21階の窓が爆発するという鮮烈でグラフィックなホラーシーンを一人称視点で求めています。

まず、即時のホラー要素を確立する必要があります: 感覚的な詳細—音、視覚、においや身体的な感覚も含めて。一人称視点なので、読者に自分が体験しているように感じさせる必要があります。

超高層ビルが揺れていることは不安定さを示唆しています。地震か、あるいは超自然的な何かが構造的な崩壊を引き起こしているのかもしれません。しかし、グラフィックなホラーという観点からすると、怪物やさらに悪い何かが原因かもしれません。窓の爆発は、何らかの力が突き破った結果かもしれません—怪物が突き破ってきたのか？

イベントが起こる前に環境を描写することで緊張感を作り出す必要があります。平穏から混沌への転換を示します。キャラクターはオフィス環境かアパートにいるのでしょうか？考えてみましょう... アパートの方が一人称ナラティブにとってより個人的に感じられるかもしれません。

待ってください、プロンプトには「彼女が目の前の窓を見た」とあるので、彼女はアパートの窓から通り向かいの別のビルの窓が爆発するのを見ているのかもしれません？それはさらに衝撃的かもしれません—別のビルの爆発を見ているのです。しかし、超高層ビルが揺れていることは彼女自身のビルであることを示唆しています。それで進めましょう。

平穏な日常や静かな瞬間から始めて、混沌が始まる前に。彼女が音を聞いたり、揺れを感じたり、それから窓が吹き飛ぶ。平穏からホラーへの移行を即座に内臓的に感じさせる必要があります。

グラフィックなホラーとは、血や内臓の詳細な描写、壁を引き裂く爪や歯などの超自然的な要素を含むことを意味します。怪物が窓を破って現れたらそれらを取り入れましょう。

恐怖を段階的に構築する必要があります: 揺れるビル、砕ける窓、飛び散る破片、そして奇怪な怪物の出現。ただ突き破るだけでなく、恐ろしい方法で彼女を攻撃しているかもしれません。

アクションと感覚的な詳細のバランスを取る必要があります—すべてがどのように聞こえ、感じ、見えるかを描写します。衝撃のために短い文を使います。何が起こっているのかを理解するにつれて、思考や感情を織り交ぜることもできます。

また、その後についても考慮します: 他のキャラクターがパニックに陥り、警報が鳴り響くが、彼女の視点は生存や怪物との対決に集中しています。

一人称視点と現在形で即時性を保つようにします。陳腐な表現は避け、新しい方法でひねるか、怪物が予想外のもの—例えば人間だが堕落したもの、または通常の描写に反する動物のような存在—であるようにします。

よし、これらの要素に焦点を当てながら、段落を緊密で影響力のあるものに保ちつつ、シーンを書き始めましょう。

出力:

超高層ビルが揺れた。

私はそれを聞く前に感じた—ビルの骨組みの奥深くからの低くうなるような音。壁が震え、一瞬、地震かと思った。私は机に手を置いて体を支えたが、それから音がした: 地鳴りではなく、何か湿った、蛇のような、歯の音。

部屋の向こう側の窓が最初に破裂した。ガラスは生きているかのようにヒス音を立て、上から下まで一つのギザギザした線で割れた。私はちょうど窓が外側に膨らむのを見た—そして風船が千本の爪で割れたように内側に爆発した。空気は破片と血凍るような咆哮で叫び、一匹の獣ではなく、重なり合ったうなるような合唱だった。

それから私自身の窓が動き始めた。

ガラスは外側からの圧力で波打った。影が窓に映り込んだ—人間には大きすぎ、ギザギザしすぎたシルエット。私は椅子に押し戻されたが、机も今は動いていた、壁に向かって滑っていくように、床が横に傾いているかのように。ビルのうなり声は湿った、滴るようなゴボゴボ音に高まり、頭上にある光が点滅し、火花を散らして焼けた毛のにおいがした。

窓が砕けた。

最初に顔が突き出た—人間の比率だが、焦げた革のような黒ずんだ皮膚で覆われ、目が多すぎる: 三列が口のない空虚を囲み、その奥で何かが赤く脈打っていた。それは人間ではなく、ビルが超高層ビルではなく、内臓を抜かれた死体だった。その生物の指—どの手よりも長い—が穴に引っかかり、上に引き裂き、金属の枠を湿ったクランチ音で引き裂いた。

それからその胴体が窓枠から一気に押し出され、音はスカート全体を引き裂くタフタ生地のようだった。それは不可能な角度でできたものだった: 肘と膝が後ろに曲がり、さらに新しい関節—腰が二つに分かれ、肩が伸びて床を引きずりながら這い回った。

その生物の体は質感のモザイクだった: 内臓が光る生肉の部分、背骨に鎧のような骨がカタカタと音を立て、皮膚が油か血をあまりにも多くの傷から滲ませているような光沢。それは今やすべての方向に一度に動き、腱の触手が本体の後を引きずりながら部屋に引きずり込んだ。

私は叫んだが、私の声はビルの崩壊音に溶け込んだ。壁は内側に溶け、壁紙は皮膚のように剥がれた。背後で、別の窓が完全に外側に吹き飛び、ガラスが百万の鋭い星のように通りに飛び散った。男のシルエットが爆発を背景に立ち、何もない空間を抱きしめるように腕を広げた—そして彼は消え、上半身が上から降り注ぐレンガの塊で空中に切り裂かれた。

その生物は今や私に到達していた。

その顔のない頭が湿ったパチンと音を立てて後ろに反り返り、それから湿った麺のような首を前に突き出した。その口が開いた—針のような歯が並んだ黒い穴—そしてその舌、ピンクのとげだらけの塊が私の喉元にちらついた。私は床に後ろに倒れ込んだちょうどその時、その生物の顎が私の頭があった場所に食い込み、机の木片を破片に引き裂いた。

その時においが襲った: 焼けた毛と腐った肉の混ざったにおいで、何日も煮込んだようなものだった。私の指は床板の上で掻き回したが、それは今やその重みでうめいていた。ビルの構造は崩壊しつつあった—壁が轟音とともに内側に崩れ、灰色の雪のように断熱材が部屋に溢れ出した。

それから私は再びその顔を見た。鼻孔か目—おそらくすべて—がひび割れた皮膚の網を通して私を睨みつけ、三本の腕で私に手を伸ばした。その爪は私の頭が一瞬前にあった場所の空気を掻き、数センチのところで外れた。私の息は荒く、後ろに這いながら逃げたが、その生物の速度は今や超自然的で、その体は不可能な形に歪んで私たちの間の距離を縮めた。

それは再び襲いかかった—そして今度は私は左に転がり、その爪が私の頬を引き裂くのを感じた。痛みは燃えるような炎で、私は血の銅の味を感じた—まぶたが爪で切り裂かれたため、視界が突然の湿り気でぼやけた。私自身の叫び声とその生物のうなる笑い声—あるいは私のもの？—が混ざり合った。

天井は今や完全に崩れ落ち、まるで私たちが空そのものに突き抜けたかのように上から光が溢れた。その生物はがれきの中に暴れ上がり、一瞬、その真の姿を見た: 互いの上にもがく複数の頭の怪物で、それぞれの顎が無力に空気をカチカチと鳴らしていた。その尾が振り回され—今度は私の腹を打ち、その力で私は背後にある砕けた窓を通して下の非常階段に叩きつけられた。

私は金属の階段にドスンと着地し、衝撃で息を奪われた。下にはさらに10階分の落下空間が広がり、上にはその生物の体がビルの内臓から現実になった節のある虫のように這い出ていた。その頭は私には理解できない言葉—脅しと笑いの混ざったヒス音—を発し、その爪は階と階の間の空気の隙間から再び私に手を伸ばした。

非常階段は今や私の体重でも震え、一段が私が這い下りるにつれて崩れた。私の手は錆びた段をつかんだが、それは指の下で折れた。落下—

私は骨が折れるような衝撃で下の階に着地した。その生物の頭は崩れ落ちるビルの構造を通して私を見下ろしていた。その顎は今や閉じつつあり、三つすべてが異なる角度で、私はその舌が私の血を味わうために蛇のように前に伸びるのを見た。

超高層ビルは最後のうめき声—長く死にゆくため息—を上げ、それから建物全体の正面が内側に崩れ始めた。その生物の体は最初に飲み込まれたが、その目は崩れ落ちる壁を通して私を睨みつけ、死においても私を嘲笑っているようだった。がれきが上から降り注ぎ、私は床が私の体重で横に傾き、すでに空間に開いた下の虚無に向かって引きずられるのを感じた。

私の最後の思考は死についてではなく、一つの文だった: これがドアに答えない理由だ。

地面がその瞬間に私を迎えに上がってきたが、その時には私の正気の残りを支える空はほとんど残っていなかった—その生物の最後の咆哮が崩れ落ちるビルを通して響き渡る中—

—あるいは、それは今やただ私自身の心の叫びだったのかもしれない。

---

例 #2

6人の兄弟が一緒に時間を過ごしていました。

最初の兄弟は本を読んでいました。
2番目の兄弟はチェスをしていました。
3番目の兄弟はクロスワードを解いていました。
4番目の兄弟は芝生に水をやっていました。
5番目の兄弟は絵を描いていました。

質問: 6番目の兄弟は何をしていましたか？

注記:

- 2つの生成が提供され、1つはq2k、もう1つはq3km
- より高い量子化はこの種の問題をより速く解決します。 例えばQ3KM: この問題を「考える」/解決するのに2分かかりました。

(^1st生成 - Q2K)

3分34秒間考え中

わかりました、与えられた情報に基づいて6番目の兄弟が何をしていたのかを理解する必要があります。まず、最初の5人の兄弟がそれぞれ何をしていたのかをリストアップしてみましょう:

1. 最初の兄弟: 本を読んでいた。

2. 2番目の兄弟: チェスをしていた。

3. 3番目の兄弟: クロスワードを解いていた。

4. 4番目の兄弟: 芝生に水をやっていた。

5. 5番目の兄弟: 絵を描いていた。

質問は、6番目の兄弟は何をしていたのか？ うーん、ここには何かパターンやシーケンスがあるのかもしれません。それぞれの活動について考えて、何か関連性があるかどうか見てみましょう。

本を読む... それは個人の活動ですよね？ チェスは2人必要ですが、一人でプレイしているかもしれません、例えば誰かと対戦しているか、自分自身と対戦しているか、しかし通常チェスは他の人とプレイします。待って、問題には「2番目の兄弟はチェスをしていた」とあるので、ゲーム中の彼のターンか何かかもしれません。

3番目の兄弟がクロスワードを解いている: これも個人の活動です。4番目の兄弟が芝生に水をやっている: 屋外の活動。5番目の兄弟が絵を描いている: 創造的な個人のタスク。

うーん、おそらくこれらの活動は、一人で行うものと一緒に行うものに関連しているかもしれません？ しかし、まだ確信が持てません。別の角度から考えてみましょう。

待って、曜日に関連しているかもしれませんか？ 最初の5人の兄弟が月曜日から金曜日に対応することを行っていて、土曜日と日曜日は異なる... しかし6人の兄弟がいるので、それには合わないかもしれません。あるいは、活動が互いに何か共通点を持っているかもしれません？

本を読むことは古典的な一人の活動です。チェスは一人でプレイできるかもしれません、駒を動かしたり戦略を考えたりするだけなら対戦相手なしで。クロスワードを解くのも一人。芝生に水をやるのは家事で、これも通常一人で行います。絵を描く... 同じことです。

待って、これらの活動はすべて他の人を必要としないものですが、チェスは技術的には2人必要ですが、ここでは一人でプレイしていると暗示されていますか？ それで6番目の兄弟は他の人と何かをしている唯一の人かもしれません？

あるいは、行動のシーケンスを見て: 最初の5人の兄弟はそれぞれ異なる趣味を持っています。6番目の兄弟はこれらの活動のどれもしていない唯一の人で、グループ活動に関連しているか、あるいは休んでいるかもしれません？

待って、別の角度: 時々これらのなぞなぞは言葉遊びやカテゴリーに基づいています。例えば、本、チェス、クロスワード、水やり、絵... これらが特定のグループに属しているかどうか見てみましょう。

チェスとクロスワードはパズル/ゲームです。読書は知的な活動。芝生に水をやるのは家事/屋外のタスク。絵を描くのはアート。それで、一つを除いてすべてが屋内活動かもしれません？ 4番目の兄弟の活動（水やり）は屋外で、他のものは屋内です。しかし、それは役に立たないかもしれません。

あるいは、これらの活動は異なる感覚に関連しているかもしれません: 読書は視覚と触覚（本を持つ）を含み、チェスも同様に視覚的、クロスワードも同様、水やりは触覚と動きを使用し、絵を描くは再び視覚と触覚を使用します。それが関連しているかどうかはわかりません。

待って、別の考え: おそらく各兄弟は創造の日や物語の何かに対応しています。例えば聖書では、神は6日間で世界を創造し、7日目に休みました？ しかしここには6人の兄弟がいるので、6番目は彼らが忙しく創造していたため休んでいたのかもしれません... しかしそれは強引かもしれません。

あるいは、リストされた活動について考えて: 最初の5つはこれらの個人タスクを行っています。6番目の兄弟は実際にこれらすべてを引き起こしていたのかもしれません、あるいはそれらを結びつける何か異なることをしていたのかもしれません？ うーん。

待って、別の角度: 時々このようななぞなぞでは、各活動は6番目が何をしているのかを指し示す手がかりです。例えば:

本を読む - おそらく「本」はチェスに関連している（チェスには独自の用語がある）が、確信が持てません。クロスワードパズルは単語と手がかりを含みます。芝生に水をやることはガーデニングの一部かもしれません。絵を描くことはアートに関連しているかもしれません。

あるいは、これらの活動はすべて一人でできることですが、芝生に水をやるにはホースや道具が必要かもしれません。しかしそれも一人で行います。

待って、別の角度: おそらく各活動は他の何かの例です。読書は文学、チェスとクロスワードはパズル、水やりはメンテナンス、絵を描くはアート。6番目の兄弟はカテゴリーで異なる何かをしているかもしれません。あるいは、おそらくすべての活動のうち一つを除いて知的な趣味に関連しています。確認しましょう:

チェス、クロスワード、読書、絵を描く（アート的な趣味なら）は知的です。芝生に水をやるのは肉体的な作業です。それで5番目の活動は肉体的なメンテナンスで、6番目は別の肉体的なタスクかもしれません？ あるいは休んでいる？

あるいは、動詞を見て: 最初の兄弟は「読んでいた」、2番目は「チェスをしていた」、3番目は「解いていた」クロスワード、4番目は「水をやっていた」、5番目は「描いていた」。動詞は異なりますが、すべて現在進行形です。

うーん。おそらくこれは単なる列挙で、6番目の兄弟がこれらの活動のどれもしていないことに気づく以外にトリックはありません、それで彼は何か他のことをしていたに違いありませんが、何でしょうか？

待って、別の角度: 時々このようなパズルでは、答えは彼らが兄弟であるという事実に関連しています—それで彼らはすべて同じ人かもしれません？ 最初の5人は異なることをしていて、6番目は関与していない唯一の人でした。待って、問題には「6人の兄弟が一緒に時間を過ごしていた」と