Merge Mayhem L3 V2.1

🚀 モデルマージ

このリポジトリは、mergekit を使用して作成された事前学習言語モデルのマージ結果を提供します。

📚 ドキュメント

マージの詳細

Metaのリポジトリを使用し、おそらくより良い設定でV2を再実行しました。結果が大きく異なるかどうかは不確かで、モデルの在庫がミックスにどれだけ影響するかはわかりません。

マージ方法

このモデルは、openlynn/Llama-3-Soliloquy-8B-v2 をベースに、Model Stock マージ方法を使用してマージされました。

マージされたモデル

以下のモデルがマージに含まれています：

• meta-llama/Meta-Llama-3-8B-Instruct + ResplendentAI/Luna_Llama3
• meta-llama/Meta-Llama-3-8B-Instruct + ResplendentAI/RP_Format_QuoteAsterisk_Llama3
• meta-llama/Meta-Llama-3-8B-Instruct + ResplendentAI/Smarts_Llama3
• meta-llama/Meta-Llama-3-8B-Instruct + ResplendentAI/BlueMoon_Llama3
• meta-llama/Meta-Llama-3-8B-Instruct + ResplendentAI/Aura_Llama3

設定

以下のYAML設定を使用してこのモデルが生成されました：

models:
  - model: meta-llama/Meta-Llama-3-8B-Instruct+ResplendentAI/Aura_Llama3
  - model: meta-llama/Meta-Llama-3-8B-Instruct+ResplendentAI/Smarts_Llama3
  - model: meta-llama/Meta-Llama-3-8B-Instruct+ResplendentAI/Luna_Llama3
  - model: meta-llama/Meta-Llama-3-8B-Instruct+ResplendentAI/BlueMoon_Llama3
  - model: meta-llama/Meta-Llama-3-8B-Instruct+ResplendentAI/RP_Format_QuoteAsterisk_Llama3
merge_method: model_stock
base_model: openlynn/Llama-3-Soliloquy-8B-v2
dtype: float16

📄 ライセンス

このモデルは、CC BY-NC 4.0ライセンスの下で提供されています。

モデル情報