WizardCoder - Python-13B-V1.0開源代碼模型 - 免費部署高效生成代碼

首頁

Wizardcoder Python 13B V1.0

由WizardLMTeam開發

WizardCoder是通過Evol-Instruct方法增強的代碼大語言模型，專注於代碼生成任務。

大型語言模型

Transformers

其他#代碼生成 #Python優化 #大語言模型

下載量 681

發布時間 : 8/26/2023

模型概述

該模型是基於Llama2架構的13B參數代碼生成模型，專門針對Python編程語言優化，在HumanEval基準測試中達到64.0 pass@1的優異表現。

模型特點

Evol-Instruct增強

採用Evol-Instruct方法進行指令優化，顯著提升代碼生成能力

高性能代碼生成

在HumanEval基準測試中達到64.0 pass@1的優異成績

Python專業化

專門針對Python編程語言進行優化訓練

模型能力

Python代碼生成

代碼補全

編程問題解答

使用案例

軟件開發

自動化代碼生成

根據自然語言描述生成Python代碼

在HumanEval測試中達到64%的一次通過率

編程教育輔助

幫助學生理解和生成Python代碼示例

🚀 WizardCoder：藉助Evol - Instruct賦能代碼大語言模型

WizardCoder是一款專注於代碼生成的大語言模型，通過Evol - Instruct技術增強了模型的代碼生成能力，在多個代碼評估基準測試中表現出色，為開發者提供了強大的代碼生成支持。

基本信息

屬性	詳情
模型類型	WizardCoder - Python - 13B - V1.0
訓練數據	未提及
許可證	llama2
評估指標	code_eval
庫名稱	transformers
標籤	code

模型結果

模型名稱	任務類型	數據集	指標	值	驗證狀態
WizardCoder - Python - 13B - V1.0	文本生成	HumanEval（openai_humaneval）	pass@1	0.64	未驗證

🔗 相關鏈接

🏠 主頁

🤗 HF倉庫 •🐱 Github倉庫 • 🐦 Twitter

📃 [WizardLM] • 📃 [WizardCoder] • 📃 [WizardMath]

👋 加入我們的 Discord

📢 最新消息

[2024/01/04] 🔥 我們發佈了 WizardCoder - 33B - V1.1，該模型基於deepseek - coder - 33b - base訓練，是 EvalPlus排行榜上的 最優開源代碼大語言模型，在HumanEval上達到 79.9 pass@1，在HumanEval - Plus上達到 73.2 pass@1，在MBPP上達到 78.9 pass@1，在MBPP - Plus上達到 66.9 pass@1。
[2024/01/04] 🔥 WizardCoder - 33B - V1.1 在HumanEval和HumanEval - Plus的pass@1指標上超越了 ChatGPT 3.5、Gemini Pro 和 DeepSeek - Coder - 33B - instruct。
[2024/01/04] 🔥 WizardCoder - 33B - V1.1 在MBPP和MBPP - Plus的pass@1指標上與 ChatGPT 3.5 相當，並且超越了 Gemini Pro。

代碼模型對比

模型	檢查點	論文	HumanEval	HumanEval+	MBPP	MBPP+	許可證
GPT - 4 - Turbo (2023年11月)	-	-	85.4	81.7	83.0	70.7	-
GPT - 4 (2023年5月)	-	-	88.4	76.8	-	-	-
GPT - 3.5 - Turbo (2023年11月)	-	-	72.6	65.9	81.7	69.4	-
Gemini Pro	-	-	63.4	55.5	72.9	57.9	-
DeepSeek - Coder - 33B - instruct	-	-	78.7	72.6	78.7	66.7	-
WizardCoder - 33B - V1.1	🤗 HF鏈接	📃 [WizardCoder]	79.9	73.2	78.9	66.9	MSFTResearch
WizardCoder - Python - 34B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	73.2	64.6	73.2	59.9	Llama2
WizardCoder - 15B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	59.8	52.4	--	--	OpenRAIL - M
WizardCoder - Python - 13B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	64.0	--	--	--	Llama2
WizardCoder - Python - 7B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	55.5	--	--	--	Llama2
WizardCoder - 3B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	34.8	--	--	--	OpenRAIL - M
WizardCoder - 1B - V1.0	🤗 HF鏈接	📃 [WizardCoder]	23.8	--	--	--	OpenRAIL - M

數學模型對比

我們的 WizardMath - 70B - V1.0 模型在GSM8K基準測試中略微超過了一些閉源大語言模型，包括 ChatGPT 3.5、Claude Instant 1 和 PaLM 2 540B。
我們的 WizardMath - 70B - V1.0 模型在 [GSM8k基準測試](https://github.com/openai/grade - school - math) 中達到 81.6 pass@1，比最優開源大語言模型高出 24.8 分，在 MATH基準測試中達到 22.7 pass@1，比最優開源大語言模型高出 9.2 分。

模型	檢查點	論文	GSM8k	MATH	在線演示	許可證
WizardMath - 70B - V1.0	🤗 HF鏈接	📃 [WizardMath]	81.6	22.7	演示	Llama 2
WizardMath - 13B - V1.0	🤗 HF鏈接	📃 [WizardMath]	63.9	14.0	演示	Llama 2
WizardMath - 7B - V1.0	🤗 HF鏈接	📃 [WizardMath]	54.9	10.7	演示	Llama 2

WizardLM模型對比

[2023/08/09] 我們發佈了 WizardLM - 70B - V1.0 模型。完整模型權重。

模型	檢查點	論文	MT - Bench	AlpacaEval	GSM8k	HumanEval	許可證
WizardLM - 70B - V1.0	🤗 HF鏈接	📃即將發佈	7.78	92.91%	77.6%	50.6	Llama 2許可證
WizardLM - 13B - V1.2	🤗 HF鏈接		7.06	89.17%	55.3%	36.6	Llama 2許可證
WizardLM - 13B - V1.1	🤗 HF鏈接		6.76	86.32%		25.0	非商業用途
WizardLM - 30B - V1.0	🤗 HF鏈接		7.01			37.8	非商業用途
WizardLM - 13B - V1.0	🤗 HF鏈接		6.35	75.31%		24.0	非商業用途
WizardLM - 7B - V1.0	🤗 HF鏈接	📃 [WizardLM]				19.1	非商業用途

📊 WizardCoder - Python - 34B - V1.0與其他大語言模型對比

🔥 下圖顯示我們的 WizardCoder - Python - 34B - V1.0在該基準測試中獲得第二名，超越了GPT4（2023/03/15，73.2 vs. 67.0）、ChatGPT - 3.5（73.2 vs. 72.5）和Claude2（73.2 vs. 71.2）。

💬 提示格式

"Below is an instruction that describes a task. Write a response that appropriately completes the request.\n\n### Instruction:\n{instruction}\n\n### Response:"

🚀 推理演示腳本

我們在此處提供了推理演示代碼。

⚠️ 重要提示

此腳本支持 WizardLM/WizardCoder - Python - 34B/13B/7B - V1.0。如果您想對 WizardLM/WizardCoder - 15B/3B/1B - V1.0 進行推理，請在腳本中將 stop_tokens = ['</s>'] 更改為 stop_tokens = ['<|endoftext|>']。

📚 引用

如果您使用了本倉庫中的數據、方法或代碼，請引用該倉庫。

@article{luo2023wizardcoder,
  title={WizardCoder: Empowering Code Large Language Models with Evol-Instruct},
  author={Luo, Ziyang and Xu, Can and Zhao, Pu and Sun, Qingfeng and Geng, Xiubo and Hu, Wenxiang and Tao, Chongyang and Ma, Jing and Lin, Qingwei and Jiang, Daxin},
  journal={arXiv preprint arXiv:2306.08568},
  year={2023}
}