Microsoft WizardLM 2 7B

🚀 WizardLM-2

WizardLM-2是下一代最先進的大語言模型，在複雜對話、多語言、推理和智能體等方面性能顯著提升。新系列包含三款前沿模型，能滿足不同場景需求。

🚀 快速開始

WizardLM-2是下一代最先進的大語言模型，在複雜對話、多語言、推理和智能體等方面性能顯著提升。新系列包含三款前沿模型：WizardLM-2 8x22B、WizardLM-2 70B和WizardLM-2 7B。

• WizardLM-2 8x22B是最先進的模型，與領先的專有模型相比，表現極具競爭力，且始終優於所有現有的開源模型。
• WizardLM-2 70B達到了頂級推理能力，是同規模模型中的首選。
• WizardLM-2 7B速度最快，與現有大10倍的開源領先模型性能相當。

更多關於WizardLM-2的詳細信息，請閱讀我們的發佈博客文章和即將發佈的論文。

✨ 主要特性

• 性能提升：在複雜對話、多語言、推理和智能體等方面有顯著提升。
• 模型多樣：包含WizardLM-2 8x22B、WizardLM-2 70B和WizardLM-2 7B三款模型，滿足不同需求。
• 開源共享：將模型開源，促進技術交流與發展。

📦 模型詳情

📚 模型能力

MT-Bench

我們採用了由lmsys提出的基於GPT-4的自動MT-Bench評估框架來評估模型性能。WizardLM-2 8x22B與最先進的專有模型相比，表現極具競爭力。同時，WizardLM-2 7B和WizardLM-2 70B在7B到70B模型規模的其他領先基線模型中均為表現最佳的模型。

人工偏好評估

我們精心收集了一組複雜且具有挑戰性的真實世界指令，涵蓋了人類的主要需求，如寫作、編碼、數學、推理、智能體和多語言等。我們報告了無平局的勝負率：

• WizardLM-2 8x22B僅略落後於GPT-4-1106-preview，明顯強於Command R Plus和GPT4-0314。
• WizardLM-2 70B優於GPT4-0613、Mistral-Large和Qwen1.5-72B-Chat。
• WizardLM-2 7B與Qwen1.5-32B-Chat相當，超過了Qwen1.5-14B-Chat和Starling-LM-7B-beta。

🔧 方法概述

我們構建了一個完全由人工智能驅動的合成訓練系統來訓練WizardLM-2模型。更多關於該系統的詳細信息，請參考我們的博客。

💻 使用示例

基礎用法

⚠️ 重要提示

WizardLM-2採用了Vicuna的提示格式，並支持多輪對話。提示格式如下：

A chat between a curious user and an artificial intelligence assistant. The assistant gives helpful, 
detailed, and polite answers to the user's questions. USER: Hi ASSISTANT: Hello.</s>
USER: Who are you? ASSISTANT: I am WizardLM.</s>......

推理演示腳本

我們在GitHub上提供了一個WizardLM-2推理演示代碼。

📄 許可證

本項目採用Apache2.0許可證。