Supermario V2

🚀 超級馬里奧-v2（Supermario-v2）

超級馬里奧-v2是一個文本生成模型，它通過特定的合併方法融合了多個優秀模型的特性，在多個文本生成任務的數據集上展現出了良好的性能，為用戶提供了強大且可靠的文本生成能力。

🚀 快速開始

你可以使用 Jan Desktop 在 Mac、Windows 或 Linux 系統上運行此模型。

Jan 是一個開源的、可替代 ChatGPT 的工具，具備以下特性：

• 💻 完全離線運行：你的對話內容保持私密，僅你可見。
• 🗂️ 開放文件格式：對話和模型設置保存在你的電腦上，可隨時導出或刪除。
• 🌐 兼容 OpenAI：在端口 1337 上提供兼容 OpenAI 的本地服務器端點。
• 🌍 開源且免費：我們公開開發過程，查看我們的 Github。

✨ 主要特性

• 多模型融合：該模型使用 DARE_TIES 合併方法，融合了 OpenHermes-2.5-neural-chat-v3-3-Slerp、MetaMath-Cybertron-Starling 和 Marcoroni-7B-v3 三個模型的優勢，以 Mistral-7B-v0.1 為基礎模型。
• 多任務表現良好：在多個文本生成任務的數據集上進行了評估，如 AI2 Reasoning Challenge、HellaSwag、MMLU 等，均取得了不錯的成績。

📦 安裝指南

暫未提供相關安裝步驟。

💻 使用示例

提示模板

ChatML

<|im_start|>system
{system_message}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

System

### System:
{system}
### User:
{user}
### Assistant:

📚 詳細文檔

模型描述

此模型使用 DARE_TIES 合併方法，從以下 3 個模型合併而來：

1. OpenHermes-2.5-neural-chat-v3-3-Slerp
2. MetaMath-Cybertron-Starling
3. Marcoroni-7B-v3

• 基礎模型：Mistral-7B-v0.1

該模型的 yaml 配置文件如下：

base_model: mistralai/Mistral-7B-v0.1
dtype: bfloat16
merge_method: dare_ties
models:
- model: mistralai/Mistral-7B-v0.1
- model: Weyaxi/OpenHermes-2.5-neural-chat-v3-3-Slerp
  parameters:
    density: 0.8
    weight: 0.4
- model: Q-bert/MetaMath-Cybertron-Starling
  parameters:
    density: 0.8
    weight: 0.3
- model: AIDC-ai-business/Marcoroni-7B-v3
  parameters:
    density: 0.8
    weight: 0.3
parameters:
  int8_mask: true

關於 Jan

Jan 堅信需要一個開源的 AI 生態系統，並正在構建基礎設施和工具，以使開源 AI 能夠與專有 AI 在公平的競爭環境中競爭。

Jan 的長期願景是為未來的機器人構建一個認知框架，這些機器人將成為人類和企業日常生活中實用、有用的助手。

Jan 模型合併器

這是一個用於合併模型的測試項目。

開放大語言模型排行榜評估結果

詳細結果可查看 此處。

🔧 技術細節

暫未提供相關技術細節。

📄 許可證

本項目採用 Apache-2.0 許可證。

致謝

• mergekit
• DARE
• lm-evaluation-harness