Violet Twilight V0.2 GGUF

🚀 Violet_Twilight-v0.2 文本生成模型

Violet_Twilight-v0.2 是一個文本生成模型，它通過 SLERP 方法將 Azure_Dusk-v0.2 和 Crimson_Dawn-v0.2 進行合併。該模型支持多種語言，可用於多樣化的文本生成任務。

🚀 快速開始

模型量化版本

• 完整版本
• exl2 版本
• gguf 版本

✨ 主要特性

• 多語言支持：支持英語（en）、法語（fr）、德語（de）、西班牙語（es）、意大利語（it）、葡萄牙語（pt）、俄語（ru）、中文（zh）和日語（ja）等多種語言。
• 文本生成：適用於文本生成任務。

📦 安裝指南

文檔未提供具體安裝步驟，暫不展示。

💻 使用示例

基礎用法

v0.2 版本的模型基於 ChatML 進行訓練，提示結構如下：

<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant

上下文和指令

v0.2 版本的模型基於 ChatML 進行訓練，請使用相應的上下文和指令模板。

當前最佳採樣器設置

• Smooth Creativity：感謝 Juelsman 的研究！
• Variant Chimera：感謝 Numbra！
• Spicy_Temp
• Violet_Twilight-Nitral-Special

📚 詳細文檔

模型合併

以下配置用於合併 Azure Dusk 和 Crimson Dawn：

slices:
  - sources:
      - model: Epiculous/Azure_Dusk-v0.2
        layer_range: [0, 40]
      - model: Epiculous/Crimson_Dawn-V0.2
        layer_range: [0, 40]
merge_method: slerp
base_model: Epiculous/Azure_Dusk-v0.2
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5 # fallback for rest of tensors
dtype: bfloat16

🔧 技術細節

文檔未提供具體技術細節，暫不展示。

📄 許可證

本模型使用 Apache-2.0 許可證。

📋 數據集

本模型使用了以下數據集進行訓練：