Violet Twilight V0.2

🚀 Violet_Twilight-v0.2

Violet_Twilight-v0.2は、Azure_Dusk-v0.2とCrimson_Dawn-v0.2をSLERPマージしたモデルで、テキスト生成タスクに特化しています。

今回は少し違ったもの、Violet_Twilight-v0.2をご紹介します！このモデルはAzure_Dusk-v0.2とCrimson_Dawn-v0.2のSLERPマージモデルです！

📦 インストール

クアンティゼーション

full / exl2 / gguf

💻 使用例

プロンプト

v0.2モデルはChatMLで学習されており、プロンプト構造は次のようになります。

<|im_start|>user
Hi there!<|im_end|>
<|im_start|>assistant
Nice to meet you!<|im_end|>
<|im_start|>user
Can I ask a question?<|im_end|>
<|im_start|>assistant

コンテキストと命令

v0.2モデルはChatMLで学習されているため、そのコンテキストと命令のテンプレートを使用してください。

現在のトップサンプラー設定

Smooth Creativity: この設定の調査にはJuelsmanに感謝！
Variant Chimera: Numbraに感謝！
Spicy_Temp
Violet_Twilight-Nitral-Special

🔧 技術詳細

マージ

Azure DuskとCrimson Dawnをマージするために次の設定が使用されました。

slices:
  - sources:
      - model: Epiculous/Azure_Dusk-v0.2
        layer_range: [0, 40]
      - model: Epiculous/Crimson_Dawn-V0.2
        layer_range: [0, 40]
merge_method: slerp
base_model: Epiculous/Azure_Dusk-v0.2
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.5 # fallback for rest of tensors
dtype: bfloat16

📚 詳細ドキュメント

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

その他情報

• サポート言語: en, fr, de, es, it, pt, ru, zh, ja
• タグ: merge
• データセット:
  • Epiculous/SynthRP-Gens-v1.1-Filtered-n-Cleaned
  • anthracite-org/stheno-filtered-v1.1
  • PJMixers/hieunguyenminh_roleplay-deduped-ShareGPT
  • Gryphe/Sonnet3.5-Charcard-Roleplay
  • Epiculous/Synthstruct-Gens-v1.1-Filtered-n-Cleaned
  • anthracite-org/kalo-opus-instruct-22k-no-refusal
  • anthracite-org/nopm_claude_writing_fixed
  • anthracite-org/kalo_opus_misc_240827
• パイプラインタグ: text-generation
• モデル情報:
  • 名前: Violet_Twilight-v0.2
  • 結果:
    • タスク: テキスト生成
    • データセット: IFEval (0-Shot), BBH (3-Shot), MATH Lvl 5 (4-Shot), GPQA (0-shot), MuSR (0-shot), MMLU-PRO (5-shot)
    • メトリック: inst_level_strict_acc and prompt_level_strict_acc, acc_norm, exact_match, acc
    • ソース: Open LLM Leaderboard