Archaeo 12B

🚀 Archaeo-12B模型

Archaeo-12B是一系列為角色扮演和創意寫作而打造的合併模型。該模型使用了Rei-12B和Francois-Huali-12B，並通過Slerp方法將這兩個模型進行合併，在文本生成方面有著獨特的表現。

📦 模型信息

🎨 ASCII藝術

                        __~a~_
                        ~~;  ~_
          _                ~  ~_                _
         '_\;__._._._._._._]   ~_._._._._._.__;/_`
         '(/'/'/'/'|'|'|'| (    )|'|'|'|'\'\'\'\)'
         (/ / / /, | | | |(/    \) | | | ,\ \ \ \)
        (/ / / / / | | | ~(/    \) ~ | | \ \ \ \ \)
       (/ / / / /  ~ ~ ~   (/  \)    ~ ~  \ \ \ \ \)
      (/ / / / ~          / (||)|          ~ \ \ \ \)
      ~ / / ~            M  /||\M             ~ \ \ ~
       ~ ~                  /||\                 ~ ~
                           //||\\
                           //||\\
                           //||\\
                           '/||\'        "Archaeopteryx"

💻 使用示例

ChatML格式

<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant

🛠️ MergeKit配置

models:
  - model: Delta-Vector/Francois-Huali-12B
  - model: Delta-Vector/Rei-12B
merge_method: slerp
base_model: Delta-Vector/Rei-12B
parameters:
  t:
   - value: 0.2
dtype: bfloat16
tokenizer_source: base

📈 量化版本

• GGUF：https://huggingface.co/Delta-Vector/Archaeo-12B-GGUF/
• EXL2：https://huggingface.co/Delta-Vector/Archaeo-12B-EXL2/

🙏 致謝

感謝 Kubernetes-bad、LucyKnada、Intervitens 以及無煙煤團隊的其他成員。