Llama 3 Stinky V2 8B

🚀 llama-3-stinky-v2-8B

llama-3-stinky-v2-8B 是一個通過 mergekit 合併預訓練語言模型得到的模型。它結合了多個優秀模型的特點，在文本生成任務上有良好的表現。

🚀 快速開始

本模型是使用 mergekit 對預訓練語言模型進行合併得到的。

✨ 主要特性

合併詳情

合併方法

本模型採用 Model Stock 合併方法，以 flammenai/Mahou-1.1-llama3-8B 為基礎進行合併。

合併的模型

以下模型參與了合併：

• mlabonne/ChimeraLlama-3-8B-v2
• grimjim/llama-3-merge-pp-instruct-8B
• grimjim/llama-3-merge-virt-req-8B
• uygarkurt/llama-3-merged-linear
• jeiku/Orthocopter_8B
• grimjim/llama-3-nvidia-ChatQA-1.5-8B
• openlynn/Llama-3-Soliloquy-8B-v2
• VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct
• nbeerbower/llama-3-stella-8B
• cloudyu/Meta-Llama-3-8B-Instruct-DPO
• NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS
• flammenai/Mahou-1.0-llama3-8B

配置

以下是用於生成此模型的 YAML 配置：

models:
  - model: mlabonne/ChimeraLlama-3-8B-v2
  - model: cloudyu/Meta-Llama-3-8B-Instruct-DPO
  - model: nbeerbower/llama-3-stella-8B
  - model: VAGOsolutions/Llama-3-SauerkrautLM-8b-Instruct
  - model: uygarkurt/llama-3-merged-linear
  - model: openlynn/Llama-3-Soliloquy-8B-v2
  - model: grimjim/llama-3-merge-pp-instruct-8B
  - model: NeverSleep/Llama-3-Lumimaid-8B-v0.1-OAS
  - model: grimjim/llama-3-merge-virt-req-8B
  - model: jeiku/Orthocopter_8B
  - model: grimjim/llama-3-nvidia-ChatQA-1.5-8B
  - model: flammenai/Mahou-1.0-llama3-8B
merge_method: model_stock
base_model: flammenai/Mahou-1.1-llama3-8B
dtype: bfloat16

Open LLM Leaderboard 評估結果

詳細結果可查看 此處

📄 許可證

本模型使用的許可證為 llama3。