Captain Eris Violet V0.420 12B

🚀 Nitral - AI/Captain_Violet - V0.420 - 12B

このプロジェクトは、特定のベースモデルをマージして生成されたモデルを提供しています。モデルのマージにはmergekitを使用しており、生成されたモデルは様々な用途に利用できます。

🚀 クイックスタート

• Instruct/ContextのインポートとTextgenのプリセットを組み合わせたものは、こちらで利用可能です。
• 量子化モデルについては、4bpw - exl2をご覧ください。また、MradermaacherによるGGUFとLewdiculusによるArm互換GGUFもあります。

📚 ドキュメント

マージに使用された元のモデル

• Epiculous/Violet_Twilight - v0.2
• Nitral - AI/Captain_BMO - 12B

モデル生成に使用されたYAML設定

slices:
  - sources:
      - model: Nitral-AI/Captain_BMO-12B
        layer_range: [0, 40]
      - model: Epiculous/Violet_Twilight-v0.2
        layer_range: [0, 40]
merge_method: slerp
base_model: Nitral-AI/Captain_BMO-12B
parameters:
  t:
    - filter: self_attn
      value: [0, 0.5, 0.3, 0.7, 1]
    - filter: mlp
      value: [1, 0.5, 0.7, 0.3, 0]
    - value: 0.420
dtype: bfloat16

📄 ライセンス

このモデルは、otherライセンスの下で提供されています。

📋 モデル情報