SAINEMO Remix

🚀 SAINEMO-reMIX

SAINEMO-reMIXは、事前学習された言語モデルをmergekitを使用してマージしたモデルです。このモデルは、ロールプレイや多言語対応などの用途に適しています。

🚀 クイックスタート

このモデルに関連するGGUF形式のモデルや設定については、以下のリンクを参照してください。

GGUF

• thx team mradermacher: SAINEMO-reMIX-GGUF
• GGUF imatrix: SAINEMO-reMIX-i1-GGUF

ランキング

プリセット

このモデルには、いくつかのプリセットが適しています。詳細はこちらを参照してください。

サンプラー

Temp - 0,7 - 1,2 ~
TopA - 0,1
DRY - 0,8 1,75 2 0
SillyTavernの標準プリセット（例：simple-1）を試すことをおすすめします。

🔧 技術詳細

マージ方法

このモデルは、della_linearマージ方法を使用して、E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12bをベースにマージされました。

マージされたモデル

以下のモデルがマージに含まれています。

• E:\Programs\TextGen\text-generation-webui\models\elinas_Chronos-Gold-12B-1.0
• E:\Programs\TextGen\text-generation-webui\models\Vikhrmodels_Vikhr-Nemo-12B-Instruct-R-21-09-24
• E:\Programs\TextGen\text-generation-webui\models\MarinaraSpaghetti_NemoMix-Unleashed-12B

設定

このモデルを生成するために使用されたYAML設定は以下の通りです。

models:
  - model: E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12b
    parameters:
      weight: 0.55  # 主にロシア語に重点を置く
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\MarinaraSpaghetti_NemoMix-Unleashed-12B
    parameters:
      weight: 0.2  # ロールプレイモデル、英語に特化しているため少し重みを低くする
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\elinas_Chronos-Gold-12B-1.0
    parameters:
      weight: 0.15  # 2番目のロールプレイモデル
      density: 0.4
  - model: E:\Programs\TextGen\text-generation-webui\models\Vikhrmodels_Vikhr-Nemo-12B-Instruct-R-21-09-24
    parameters:
      weight: 0.25  # ロシア語のサポートとバランス
      density: 0.4

merge_method: della_linear
base_model: E:\Programs\TextGen\text-generation-webui\models\IlyaGusev_saiga_nemo_12b
parameters:
  epsilon: 0.05
  lambda: 1
dtype: float16
tokenizer_source: base

情報テーブル