Patricide 12B Unslop Mell

🚀 patricide-12B-Unslop-Mell

父親の罪は、このように二度と繰り返されることはない。

このモデルは、mergekit を使用して作成された事前学習言語モデルのマージです。

これは私の初めてのマージで、設定ファイルのパラメータをどのように記述するのか、まだよくわかりませんでした。（更新：わかりました）もし、マージに関する詳しいガイドがある方がいれば、教えていただけると幸いです。私はこの背後にある科学的な原理にも興味があります。

両方のモデルが楽しい結果を生み出したので、私はそれらをマージして、親モデルの良い特性を引き継いだモデルを作成することにしました。（更新：このモデルの初期テストでは、文章の首尾一貫性は良好でしたが、時々意味不明な文章や造語を出力することがあります。これはおそらくトークナイザーが壊れているためです）

私はこのモデルを Q6_K GGUF 量子化モデルでテストし、満足できる結果が得られたので、アップロードすることにしました。ストーリーライティングやロールプレイでのテストは十分に行っていませんが、結果は安定しており、少なくとも 文章は首尾一貫していました。私は Temperature 1（Temperature 最後）と Min-P 0.1 でテストしました。DRY や XTC が出力の安定性に与える影響や、高いコンテキストサイズでの性能はわかりません。両方の親モデルは ChatML テンプレートを使用しています。Unslop-Nemo は Metharme/Pygmalion も使用していますが、どちらが良いかはまだテストしていません。（更新：Mergekit がテンプレートを定義する機能を導入しました。次のモデルでは ChatML を強制的に使用するようにして、全体的な標準を持たせます。）

私自身も実験段階なので、自由に実験してみてください。

更新：私は、サンプラーやパラメータ、テキストテンプレートなどをあまり微調整せずにモデルを実行できるようになったら、次のモデルをリリースする予定です。その後、DavidAU のアプローチに従って、詳細なテストを行い、新しいモデルに取り組みながら、より多くの印象を得られるようにしたいと思います。私は、基本状態で非常に良い性能を持つモデルを作成したいと考えており、サンプラーはそれを完璧にするためのものとしたいです。そのため、モデルの基本状態が非常に有望でない限り、サンプラーの微調整にあまり時間を費やしません。

🚀 クイックスタート

このモデルは事前学習言語モデルのマージで、様々な自然言語処理タスクに使用できます。以下の情報を参考にして、モデルを使い始めましょう。

✨ 主な機能

• 事前学習言語モデルのマージにより、親モデルの良い特性を引き継ぐ可能性があります。
• 量子化されたモデルが提供されており、メモリ使用量を削減できます。

📦 インストール

この README には具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

この README には具体的なコード例が記載されていないため、このセクションは省略されます。

📚 ドキュメント

量子化

静的な GGUF 量子化モデルは以下の場所で入手できます。

• redrix/patricide-12B-Unslop-Mell-GGUF（下記より量子化モデルの種類が少ない ⬇️）
• mradermacher/patricide-12B-Unslop-Mell-GGUF（ありがとう ♥️）

重み付き/Imatrix GGUF 量子化モデルは mradermacher/patricide-12B-Unslop-Mell-i1-GGUF で入手できます。

マージの詳細

マージ方法

このモデルは SLERP マージ方法を使用してマージされました。

マージされたモデル

以下のモデルがマージに含まれています。

• inflatebot/MN-12B-Mag-Mell-R1
• TheDrummer/UnslopNemo-12B-v4.1

設定

このモデルを作成するために使用された YAML 設定は以下の通りです。

models:
  - model: TheDrummer/UnslopNemo-12B-v4.1
  - model: inflatebot/MN-12B-Mag-Mell-R1
merge_method: slerp
base_model: TheDrummer/UnslopNemo-12B-v4.1
dtype: bfloat16
parameters:
  t: [0, 0.5, 1, 0.5, 0]

🔧 技術詳細

この README には具体的な技術詳細が記載されていないため、このセクションは省略されます。

📄 ライセンス

このモデルは apache-2.0 ライセンスの下で提供されています。