Mtmme Merge Gemma 2 9B

🚀 モデルマージ

このプロジェクトは、mergekitを使用して作成された事前学習言語モデルのマージ結果です。これにより、異なるモデルの特性を組み合わせ、新たなモデルを生成することができます。

🚀 クイックスタート

このマージモデルは、事前学習言語モデルの特性を組み合わせることで、より高性能なテキスト生成を実現します。以下に、モデルの詳細を紹介します。

✨ 主な機能

• 複数の事前学習言語モデルをマージし、新たなモデルを生成します。
• SLERPマージ手法を用いて、モデルの特性を滑らかに組み合わせます。

📦 インストール

このREADMEには具体的なインストール手順が記載されていないため、このセクションをスキップします。

💻 使用例

このREADMEには具体的なコード例が記載されていないため、このセクションをスキップします。

📚 ドキュメント

マージ詳細

マージ手法

このモデルは、SLERPマージ手法を使用してマージされています。この手法により、モデルの特性を滑らかに組み合わせることができます。

マージされたモデル

以下のモデルがマージに含まれています。

• zelk12/MTM-Merge-gemma-2-9B
• zelk12/MTM-Merge1-gemma-2-9B

設定

以下のYAML設定を使用してこのモデルが生成されています。

models:
  - model: zelk12/MTM-Merge1-gemma-2-9B
  - model: zelk12/MTM-Merge-gemma-2-9B
merge_method: slerp
base_model: zelk12/MTM-Merge1-gemma-2-9B
dtype: bfloat16
parameters:
  t: 0.23

🔧 技術詳細

このREADMEには具体的な技術詳細が記載されていないため、このセクションをスキップします。

📄 ライセンス

このモデルのライセンスはgemmaです。

📄 モデル情報