開源對話利器Llama_3.x_70b_Hexagon_Purple_V2，優化性能暢聊無阻！

首頁

Llama 3.x 70b Hexagon Purple V2

由Nexesenex開發

Hexagon Purple V2是一個基於Smartracks的三級標準合併模型，包含Deepseek Distill R1、Nemotron和Tulu能力，通過多模型合併優化性能。

大型語言模型

Transformers

#多能力合併模型 #低審查度 #創意寫作優化

下載量 417

發布時間 : 3/14/2025

模型概述

Hexagon Purple V2是一個高級語言模型，通過合併多個70B參數規模的模型來提升創造力和基準測試表現。適用於文本生成、創意寫作和複雜問題解答。

模型特點

多模型合併技術

採用model_stock合併法整合5個不同特性的70B模型，實現能力互補

創造力與性能平衡

在保持優秀基準分數(ARC-C 60.55/ARC-E 81.05)的同時增強創意寫作能力

低審查度設計

系統化應用abliterated和lorablated技術，重點保持極低的內容審查

複雜度優化

通過Tess 3.0模型作為複雜度降低模塊，提升推理效率

模型能力

長文本生成

創意寫作

知識問答

指令跟隨

上下文理解

使用案例

內容創作

小說寫作輔助

利用Gutenberg-Doppel模型組件提供文學創作支持

生成具有文學性的長篇幅文本

創意寫作

結合Priestess和Tess模型的創意能力

產生新穎的故事構思和情節發展

知識應用

複雜問題解答

利用Smartracks基礎模型的知識整合能力

準確回答跨領域綜合性問題

🚀 六邊形紫色V2模型

六邊形紫色V2（Hexagon Purple V2）是基於預訓練語言模型合併而成的模型，其核心基礎Smartracks保持不變，是一個包含多種能力的“3級”庫存合併模型。該模型在多個基準測試中表現良好，且在創作能力上較之前版本有所提升。

✨ 主要特性

模型基礎

六邊形紫色V2的基礎Smartracks保持不變，是一個“3級”庫存合併模型，包含Deepseek Distill R1（3種變體）、Nemotron和Tulu的能力。

與V1的差異

模型替換：Steelskull的Electra R1取代了Black - Ink - Guild的Perniscious Prophecy，因為前者性能更優。70Blivion在其他地方恢復。
庫存合併調整：女祭司（Priestess）庫存合併取代了女主人（Hostess）庫存合併，在Tess R1和Llama創意寫作模型的基礎上，引入了70Blivision並移除了Lumitron合併。
獨立模型調整：Dobby、Wayfarer和Drummer的Fallen Llama R1（已存在於Smartracks子合併中，現在也存在於Electra R1中）作為獨立模型移除，取而代之的是這三個模型的庫存合併DoppelGanger R1。
新模型加入：Nbeerbower的Doppel Gutemberg作為3.1指令（和小說寫作）穩定器加入，與後續模型協同工作；Miguel Tissera的Tess 3.0 70B 3.1也加入，用於降低困惑度。

審查機制

與往常一樣，當存在消融（abliterated）和洛拉消融（lorablated）（感謝Huihui - ai、Maxime Labonne和Failspy）時會系統地使用，否則重點是極低的審查。

📊 基準測試

在本次合併中，犧牲了部分基準測試性能以換取創作能力，但與V1相比仍有顯著進步：

測試項目	得分	評價
PPL Wikitext Eng 512	3.43	良好
ARC - C	60.55	良好
ARC - E	81.05	良好

📦 模型合併信息

合併工具

本模型是使用mergekit工具對預訓練語言模型進行合併得到的。

合併方法

採用Model Stock合併方法，以Nexesenex/Llama_3.x_70b_SmarTracks_V1.01為基礎模型。

合併模型列表

[Steelskull/L3.3 - Electra - R1 - 70b](https://huggingface.co/Steelskull/L3.3 - Electra - R1 - 70b)
NexesMess/Llama_3.3_70b_DoppelGanger_R1
[nbeerbower/Llama3.1 - Gutenberg - Doppel - 70B](https://huggingface.co/nbeerbower/Llama3.1 - Gutenberg - Doppel - 70B)
NexesMess/Llama_3.1_70b_Priestess_V1
[migtissera/Tess - 3 - Llama - 3.1 - 70B](https://huggingface.co/migtissera/Tess - 3 - Llama - 3.1 - 70B)

合併配置

以下是用於生成此模型的YAML配置：

merge_method: model_stock
models:
  - model: migtissera/Tess-3-Llama-3.1-70B
    parameters:
      weight: 1.0
  - model: nbeerbower/Llama3.1-Gutenberg-Doppel-70B
    parameters:
      weight: 1.0
  - model: NexesMess/Llama_3.1_70b_Priestess_V1
    parameters:
      weight: 1.0
  - model: Steelskull/L3.3-Electra-R1-70b
    parameters:
      weight: 1.0
  - model: NexesMess/Llama_3.3_70b_DoppelGanger_R1
    parameters:
      weight: 1.0
base_model: Nexesenex/Llama_3.x_70b_SmarTracks_V1.01
dtype: bfloat16
out_dtype: bfloat16
parameters:
  int8_mask: true
  normalize: true
  rescale: false
chat_template: auto
tokenizer:
  source: union