Smart Lemon Cookie 7B

🚀 Smart-Lemon-Cookie-7B

このモデルは、mergekitを使用して事前学習された言語モデルをマージしたものです。テキスト生成タスクにおいて高い性能を発揮し、様々なデータセットでの評価結果も良好です。

画像提供: @matchaaaaa

🚀 クイックスタート

このモデルは事前学習済みの言語モデルをマージして作成されています。以下のGGUF形式のモデルも利用可能です。

• https://huggingface.co/FaradayDotDev/Smart-Lemon-Cookie-7B-GGUF
• https://huggingface.co/mradermacher/Smart-Lemon-Cookie-7B-GGUF

✨ 主な機能

• テキスト生成タスクに最適化されています。
• 複数の事前学習モデルをマージすることで、性能を向上させています。
• 様々なデータセットでの評価結果が良好です。

📚 ドキュメント

マージの詳細

マージ方法

このモデルは、TIESマージ方法を使用し、MTSAIR/multi_verse_modelをベースにマージされています。

マージされたモデル

以下のモデルがマージに含まれています。

• SanjiWatsuki/Silicon-Maid-7B
• SanjiWatsuki/Kunoichi-7B
• KatyTheCutie/LemonadeRP-4.5.3

設定

このモデルを生成するために使用されたYAML設定は以下の通りです。

models:
  - model: SanjiWatsuki/Silicon-Maid-7B
    parameters:
      density: 1.0
      weight: 1.0
  - model: SanjiWatsuki/Kunoichi-7B
    parameters:
      density: 0.4
      weight: 1.0
  - model: KatyTheCutie/LemonadeRP-4.5.3
    parameters:
      density: 0.6
      weight: 1.0
merge_method: ties
base_model: MTSAIR/multi_verse_model
parameters:
  normalize: true
dtype: float16

Open LLM Leaderboard評価結果

詳細な結果はこちらで確認できます。

📄 ライセンス

このモデルはCC BY 4.0ライセンスの下で提供されています。