Archaeo 32B

🚀 Archaeo-32B

このモデルはロールプレイングや創作的な文章作成に最適化されたモデルで、32B-Qwen2.5-Kunou-v1とHamanasu-Magnum-QwQ-32BをSlerpを用いてマージしています。

🚀 クイックスタート

このモデルはロールプレイングと創作的な文章作成のために開発された一連のマージモデルです。32B-Qwen2.5-Kunou-v1とHamanasu-Magnum-QwQ-32Bを使用し、Slerpを用いて2つのモデルをマージしています。

ChatMLフォーマット

"""<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant
"""

MergeKit設定

models:
  - model: Sao10K/32B-Qwen2.5-Kunou-v1
  - model: Delta-Vector/Hamanasu-Magnum-QwQ-32B
merge_method: slerp
base_model: Delta-Vector/Hamanasu-Magnum-QwQ-32B
parameters:
  t:
   - value: 0.2
dtype: bfloat16
tokenizer_source: base

量子化モデル

謝辞

Kubernetes-bad、LucyKnada、Intervitens、Samantha Twinkman、Tav、Trappu と Anthraciteの皆さんに感謝します。

ASCIIアート

                        __~a~_
                        ~~;  ~_
          _                ~  ~_                _
         '_\;__._._._._._._]   ~_._._._._._.__;/_`
         '(/'/'/'/'|'|'|'| (    )|'|'|'|'\'\'\'\)'
         (/ / / /, | | | |(/    \) | | | ,\ \ \ \)
        (/ / / / / | | | ~(/    \) ~ | | \ \ \ \ \)
       (/ / / / /  ~ ~ ~   (/  \)    ~ ~  \ \ \ \ \)
      (/ / / / ~          / (||)|          ~ \ \ \ \)
      ~ / / ~            M  /||\M             ~ \ \ ~
       ~ ~                  /||\                 ~ ~
                           //||\\
                           //||\\
                           //||\\
                           '/||\'        "Archaeopteryx"