Archaeo 32B

🚀 Archaeo-32B模型

這是一系列為角色扮演和創意寫作而打造的合併模型，使用了32B-Qwen2.5-Kunou-v1和Hamanasu-Magnum-QwQ-32B，並通過Slerp方法合併這兩個模型。

📋 模型信息

🎨 ASCII藝術

                        __~a~_
                        ~~;  ~_
          _                ~  ~_                _
         '_\;__._._._._._._]   ~_._._._._._.__;/_`
         '(/'/'/'/'|'|'|'| (    )|'|'|'|'\'\'\'\)'
         (/ / / /, | | | |(/    \) | | | ,\ \ \ \)
        (/ / / / / | | | ~(/    \) ~ | | \ \ \ \ \)
       (/ / / / /  ~ ~ ~   (/  \)    ~ ~  \ \ \ \ \)
      (/ / / / ~          / (||)|          ~ \ \ \ \)
      ~ / / ~            M  /||\M             ~ \ \ ~
       ~ ~                  /||\                 ~ ~
                           //||\\
                           //||\\
                           //||\\
                           '/||\'        "Archaeopteryx"

🚀 快速開始

ChatML格式

<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant

MergeKit配置

models:
  - model: Sao10K/32B-Qwen2.5-Kunou-v1
  - model: Delta-Vector/Hamanasu-Magnum-QwQ-32B
merge_method: slerp
base_model: Delta-Vector/Hamanasu-Magnum-QwQ-32B
parameters:
  t:
   - value: 0.2
dtype: bfloat16
tokenizer_source: base

📦 量化模型

🙏 致謝

感謝 Kubernetes-bad、LucyKnada、Intervitens、Samantha Twinkman、Tav、Trappu 以及 Anthracite 的其他成員。