Nxcode CQ 7B Orpo

🚀 Nxcode - CQ - 7B - orpo

Nxcode - CQ - 7B - orpo是一個基於無參考模型的整體偏好優化方法，在100k高質量排序數據樣本上對Qwen/CodeQwen1.5 - 7B進行微調得到的模型。

🚀 快速開始

這裡提供了一個使用apply_chat_template的代碼片段，向你展示如何加載分詞器和模型，以及如何生成內容。如果你在加載分詞器時遇到錯誤，應該升級transformers庫。

from transformers import AutoModelForCausalLM, AutoTokenizer
device = "cuda" # the device to load the model onto

model = AutoModelForCausalLM.from_pretrained(
    "NTQAI/Nxcode-CQ-7B-orpo",
    torch_dtype="auto",
    device_map="auto"
)
tokenizer = AutoTokenizer.from_pretrained("NTQAI/Nxcode-CQ-7B-orpo")

prompt = """Complete the following Python function:
from typing import List


def has_close_elements(numbers: List[float], threshold: float) -> bool:
    """ Check if in given list of numbers, are any two numbers closer to each other than
    given threshold.
    >>> has_close_elements([1.0, 2.0, 3.0], 0.5)
    False
    >>> has_close_elements([1.0, 2.8, 3.0, 4.0, 5.0, 2.0], 0.3)
    True
    """
"""
messages = [
    {"role": "user", "content": prompt}
]

inputs = tokenizer.apply_chat_template(messages, add_generation_prompt=True, return_tensors="pt").to(model.device)
outputs = model.generate(inputs, max_new_tokens=512, do_sample=False, top_k=50, top_p=0.95, num_return_sequences=1, eos_token_id=tokenizer.eos_token_id)
res = tokenizer.decode(outputs[0][len(inputs[0]):], skip_special_tokens=True)

✨ 主要特性

Evalplus評測

我們使用以下簡單模板為Evalplus生成解決方案：

"Complete the following Python function:\n{prompt}"

Evalplus排行榜

Bigcode排行榜

Bigcode排行榜

2024年5月9日

• 平均得分排名第一。
• 勝率排名第二。

📄 許可證

本項目使用tongyi - qianwen - research許可證。

聯繫信息

如果您有與本項目相關的個人交流需求，請聯繫Nha Nguyen Van (nha.nguyen@ntq - solution.com.vn)。