Qwen 2.5 7B Reasoning

🚀 Qwen-2.5-7B-Reasoning（由HyperX-Sen微調）

本模型是基於Qwen/Qwen2.5-7B-Instruct微調而來，專門針對高級推理任務進行了優化。它在OpenAI GSM8K數據集上進行了微調，顯著提升了多步推理和問題解決能力。

🚀 快速開始

本模型是Qwen/Qwen2.5-7B-Instruct的微調版本，專門針對高級推理任務進行了優化。在OpenAI GSM8K數據集上微調後，它極大地增強了多步推理和解決問題的能力。

✨ 主要特性

• 基於強大的Qwen/Qwen2.5-7B-Instruct模型進行微調。
• 在GSM8K數據集上微調後，在數學推理、逐步邏輯推導、常識推理和解決文字問題等方面表現出色。
• 適用於需要高級推理的應用場景，如AI輔導、研究輔助和問題解決型AI智能體。

🔧 技術細節

• 基礎模型：Qwen/Qwen2.5-7B-Instruct
• 微調者：HyperX-Sen
• 數據集：GSM8K（小學算術8K）
• 硬件：2× Tesla T4 GPU
• 目標：提高複雜推理和邏輯演繹能力

📈 性能提升

通過在GSM8K數據集上的微調，模型在以下方面得到了提升：

• 數學推理
• 逐步邏輯推導
• 常識推理
• 文字問題解決

這使得該模型非常適合需要高級推理的應用，如AI輔導、研究輔助和問題解決型AI智能體。

💻 使用示例

基礎用法

from transformers import AutoModelForCausalLM, AutoTokenizer

# Load the model and tokenizer
model_name = "HyperX-Sen/Qwen-2.5-7B-Reasoning"
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype="auto", device_map="auto")
tokenizer = AutoTokenizer.from_pretrained(model_name)

SYSTEM_PROMPT = """
Respond in the following format:
<reasoning>
...
</reasoning>
<answer>
...
</answer>
"""

# Define the conversation
messages = [
    {"role": "system", "content": f"{SYSTEM_PROMPT}"},
    {"role": "user", "content": "What are the potential impacts of artificial intelligence on employment?"}
]

# Format the chat input
input_text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)

# Tokenize the formatted input
inputs = tokenizer(input_text, return_tensors="pt").to(model.device)

# Generate the response
output = model.generate(**inputs, max_length=512, do_sample=True, temperature=0.7)

# Decode and display the response
response = tokenizer.decode(output[0], skip_special_tokens=True)
print(response)

📄 許可證

本模型採用MIT許可證。