Deepseek Coder V2 Lite Base AWQ

🚀 DeepSeek-Coder-V2：突破代碼智能領域閉源模型的壁壘

DeepSeek-Coder-V2-Lite-Base 模型的 AWQ 量化版本。本項目推出的 DeepSeek-Coder-V2 是一個開源的混合專家（MoE）代碼語言模型，在特定代碼任務中可實現與 GPT4-Turbo 相媲美的性能。它基於高質量、多源語料庫的 6 萬億個標記對 DeepSeek-Coder-V2-Base 進行進一步預訓練，大幅提升了編碼和數學推理能力，同時在通用語言任務中保持了相當的性能。

API 平臺 | 使用方法 | 許可證 |

論文鏈接üëÅÔ∏è

🚀 快速開始

模型介紹

我們推出了 DeepSeek-Coder-V2，這是一個開源的混合專家（MoE）代碼語言模型，在特定代碼任務中可實現與 GPT4-Turbo 相媲美的性能。具體而言，DeepSeek-Coder-V2 是在 DeepSeek-Coder-V2-Base 的基礎上，使用來自高質量、多源語料庫的 6 萬億個標記進行進一步預訓練得到的。通過這種持續的預訓練，DeepSeek-Coder-V2 大幅提升了 DeepSeek-Coder-V2-Base 的編碼和數學推理能力，同時在通用語言任務中保持了相當的性能。與 DeepSeek-Coder 相比，DeepSeek-Coder-V2 在與代碼相關的任務以及推理和通用能力的各個方面都取得了顯著進展。此外，DeepSeek-Coder-V2 支持的編程語言從 86 種擴展到 338 種，上下文長度從 16K 擴展到 128K。

在標準基準評估中，DeepSeek-Coder-V2 在編碼和數學基準測試中比 GPT4-Turbo、Claude 3 Opus 和 Gemini 1.5 Pro 等閉源模型表現更優。支持的編程語言列表可在論文中找到。

✨ 主要特性

• 性能卓越：在標準基準評估中，DeepSeek-Coder-V2 在編碼和數學基準測試中比 GPT4-Turbo、Claude 3 Opus 和 Gemini 1.5 Pro 等閉源模型表現更優。
• 能力提升：大幅提升了編碼和數學推理能力，同時在通用語言任務中保持了相當的性能。
• 語言擴展：支持的編程語言從 86 種擴展到 338 種。
• 長度擴展：上下文長度從 16K 擴展到 128K。

📦 模型下載

我們基於 DeepSeekMoE 框架發佈了參數為 16B 和 236B 的 DeepSeek-Coder-V2，其激活參數僅為 2.4B 和 21B，包括基礎模型和指令模型。

💻 使用示例

在線體驗

你可以在 DeepSeek 的官方網站上與 DeepSeek-Coder-V2 進行聊天：coder.deepseek.com

本地運行

這裡我們提供一些如何使用 DeepSeek-Coder-V2-Lite 模型的示例。如果你想使用 BF16 格式的 DeepSeek-Coder-V2 進行推理，則需要 80GB*8 的 GPU。

使用 Huggingface 的 Transformers 進行推理

你可以直接使用 Huggingface 的 Transformers 進行模型推理。

代碼補全

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Base", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Base", trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
input_text = "#write a quick sort algorithm"
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_length=128)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

代碼插入

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Base", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Base", trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
input_text = """<｜fim▁begin｜>def quick_sort(arr):
    if len(arr) <= 1:
        return arr
    pivot = arr[0]
    left = []
    right = []
<｜fim▁hole｜>
        if arr[i] < pivot:
            left.append(arr[i])
        else:
            right.append(arr[i])
    return quick_sort(left) + [pivot] + quick_sort(right)<｜fim▁end｜>"""
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_length=128)
print(tokenizer.decode(outputs[0], skip_special_tokens=True)[len(input_text):])

聊天補全

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
tokenizer = AutoTokenizer.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct", trust_remote_code=True, torch_dtype=torch.bfloat16).cuda()
messages=[
    { 'role': 'user', 'content': "write a quick sort algorithm in python."}
]
inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
# tokenizer.eos_token_id is the id of <|EOT|> token
outputs = model.generate(inputs, max_new_tokens=512, do_sample=False, top_k=50, top_p=0.95, num_return_sequences=1, eos_token_id=tokenizer.eos_token_id)
print(tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True))

完整的聊天模板可以在 Huggingface 模型倉庫中的 tokenizer_config.json 中找到。

聊天模板示例如下：

<｜begin▁of▁sentence｜>User: {user_message_1}

Assistant: {assistant_message_1}<｜end▁of▁sentence｜>User: {user_message_2}

Assistant:

你還可以添加一個可選的系統消息：

<｜begin▁of▁sentence｜>{system_message}

User: {user_message_1}

Assistant: {assistant_message_1}<｜end▁of▁sentence｜>User: {user_message_2}

Assistant:

使用 vLLM 進行推理（推薦）

要使用 vLLM 進行模型推理，請將此拉取請求合併到你的 vLLM 代碼庫中：https://github.com/vllm-project/vllm/pull/4650。

from transformers import AutoTokenizer
from vllm import LLM, SamplingParams

max_model_len, tp_size = 8192, 1
model_name = "deepseek-ai/DeepSeek-Coder-V2-Lite-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
llm = LLM(model=model_name, tensor_parallel_size=tp_size, max_model_len=max_model_len, trust_remote_code=True, enforce_eager=True)
sampling_params = SamplingParams(temperature=0.3, max_tokens=256, stop_token_ids=[tokenizer.eos_token_id])

messages_list = [
    [{"role": "user", "content": "Who are you?"}],
    [{"role": "user", "content": "write a quick sort algorithm in python."}],
    [{"role": "user", "content": "Write a piece of quicksort code in C++."}],
]

prompt_token_ids = [tokenizer.apply_chat_template(messages, add_generation_prompt=True) for messages in messages_list]

outputs = llm.generate(prompt_token_ids=prompt_token_ids, sampling_params=sampling_params)

generated_text = [output.outputs[0].text for output in outputs]
print(generated_text)

📚 詳細文檔

API 平臺

我們還在 DeepSeek 平臺上提供了與 OpenAI 兼容的 API：platform.deepseek.com。註冊即可獲得數百萬個免費標記。你還可以按需付費，價格極具競爭力。

📄 許可證

本代碼倉庫遵循 MIT 許可證。DeepSeek-Coder-V2 基礎/指令模型的使用需遵循 模型許可證。DeepSeek-Coder-V2 系列（包括基礎模型和指令模型）支持商業使用。

📞 聯繫我們

如果您有任何問題，請提出問題或通過 service@deepseek.com 與我們聯繫。