Archaeo 12B GGUF

🚀 Archaeo-12B模型項目

Archaeo-12B是一個專為角色扮演和創意寫作設計的文本生成模型。它通過合併Rei-12B和Francois - Huali-12B兩個模型，運用Slerp方法，為用戶帶來獨特的文本生成體驗。

🚀 快速開始

ChatML格式

以下是使用ChatML格式與模型交互的示例：

"""<|im_start|>system
system prompt<|im_end|>
<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant
"""

MergeKit配置

以下是MergeKit的配置信息：

models:
  - model: Delta-Vector/Francois-Huali-12B
  - model: Delta-Vector/Rei-12B
merge_method: slerp
base_model: Delta-Vector/Rei-12B
parameters:
  t:
   - value: 0.2
dtype: bfloat16
tokenizer_source: base

量化模型

• GGUF：https://huggingface.co/Delta-Vector/Archaeo-12B-GGUF/
• EXL2：https://huggingface.co/Delta-Vector/Archaeo-12B-EXL2/

✨ 主要特性

• 專為角色扮演和創意寫作設計：該模型系列是專門為角色扮演和創意寫作場景打造，能夠生成富有想象力和邏輯性的文本內容。
• 模型融合：使用Rei-12B和Francois - Huali-12B兩個模型，並通過Slerp方法進行融合，結合了兩個模型的優勢。

📄 詳細信息

模型標籤與基礎信息

鳴謝

感謝Kubernetes - bad、LucyKnada、Intervitens以及Anthracite團隊的其他成員。

ASCII藝術

                        __~a~_
                        ~~;  ~_
          _                ~  ~_                _
         '_\;__._._._._._._]   ~_._._._._._.__;/_`
         '(/'/'/'/'|'|'|'| (    )|'|'|'|'\'\'\'\)'
         (/ / / /, | | | |(/    \) | | | ,\ \ \ \)
        (/ / / / / | | | ~(/    \) ~ | | \ \ \ \ \)
       (/ / / / /  ~ ~ ~   (/  \)    ~ ~  \ \ \ \ \)
      (/ / / / ~          / (||)|          ~ \ \ \ \)
      ~ / / ~            M  /||\M             ~ \ \ ~
       ~ ~                  /||\                 ~ ~
                           //||\\
                           //||\\
                           //||\\
                           '/||\'        "Archaeopteryx"