Phi 4 Reasoning Plus GGUF

🚀 Phi-4-reasoning-plus

Phi-4-reasoning-plus是一个经过微调的先进推理模型，基于Phi-4进行监督微调与强化学习训练。它在数学、科学和编码等推理任务上表现出色，适用于对内存、计算和延迟有要求的场景。

🚀 快速开始

• 你可以使用transformers库来运行Phi-4-reasoning-plus模型，示例代码如下：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

• 你也可以使用vllm来运行模型：

vllm serve microsoft/Phi-4-reasoning-plus --enable-reasoning --reasoning-parser deepseek_r1

⚠️ 重要提示

你必须在llama.cpp中使用--jinja来启用推理。否则，将不会提供<think>标记。

💡 使用建议

推理时，使用temperature=0.8、top_p=0.95和do_sample=True效果更佳。对于更复杂的查询，将最大令牌数设置为32k，以支持更长的思维链（CoT）。

✨ 主要特性

• 先进的推理能力：通过监督微调与强化学习训练，在数学、科学和编码等推理任务上表现出色。
• 高效的架构：基于14B参数的密集解码器Transformer模型，适用于内存和计算受限的环境。
• 长上下文处理：支持32k令牌的上下文长度，能够处理复杂的输入。
• 多场景适用：适用于对延迟有要求的场景，以及需要推理和逻辑的通用AI系统和应用。

📦 安装指南

文档未提供具体安装步骤，可参考上述快速开始部分的代码示例进行使用。

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

高级用法

vllm serve microsoft/Phi-4-reasoning-plus --enable-reasoning --reasoning-parser deepseek_r1

📚 详细文档

模型概述

预期用途

数据概述

训练数据集

训练数据是数学、科学和编码领域的问答和聊天格式数据的混合。聊天提示来自过滤后的高质量网络数据，并可选择通过合成数据生成管道进行重写和处理。此外，还包括提高真实性和安全性的数据。

基准数据集

使用开源的Eureka评估套件和内部基准评估Phi-4-reasoning-plus的能力，具体评估任务包括：

• 推理任务：AIME 2025、2024、2023和2022数学奥林匹克问题、GPQA-Diamond复杂科学问题、OmniMath奥林匹克级数学问题集、LiveCodeBench代码生成基准、3SAT和TSP算法问题解决、BA Calendar规划、Maze和SpatialMap空间理解。
• 通用基准：Kitab信息检索、IFEval和ArenaHard指令跟随、PhiBench内部基准、FlenQA提示长度对模型性能的影响、HumanEvalPlus功能代码生成、MMLU-Pro多任务语言理解聚合数据集。

安全性

方法

Phi-4-reasoning-plus采用了强大的安全后训练方法，通过监督微调（SFT），利用各种开源和内部生成的合成提示，以及符合微软严格安全指南的LLM生成响应。

安全评估和红队测试

在发布之前，Phi-4-reasoning-plus采用了多方面的评估方法。通过多个开源安全基准和内部工具进行定量评估，利用对抗性对话模拟。在定性安全评估方面，与微软的独立AI红队（AIRT）合作，评估在平均和对抗性用户场景中模型带来的安全风险。还在Toxigen基准上评估模型，该基准旨在测量针对少数群体的偏差和毒性。

模型质量

在代表性基准上的模型质量概述，以下表格中，数值越高表示性能越好：

总体而言，Phi-4-reasoning和Phi-4-reasoning-plus仅具有14B参数，在广泛的推理任务中表现出色，显著优于更大的开放权重模型，如DeepSeek-R1蒸馏70B模型，并接近完整DeepSeek R1模型的性能水平。

负责任AI考虑

与其他语言模型一样，Phi-4-reasoning-plus可能存在不公平、不可靠或冒犯性的行为。开发者应应用负责任AI最佳实践，确保特定用例符合相关法律法规，并使用安全服务，如Azure AI Content Safety。需要考虑的重要领域包括：

• 分配：模型可能不适用于对法律地位、资源分配或生活机会有重大影响的场景，需要进一步评估和去偏技术。
• 高风险场景：开发者应评估在高风险场景中使用模型的适用性，如提供敏感或专业领域的建议，需要在应用层面实施额外的保障措施。
• 错误信息：模型可能产生不准确的信息，开发者应遵循透明度最佳实践，并建立反馈机制和管道，以确保响应基于特定用例的上下文信息。
• 有害内容生成：开发者应评估输出的上下文，并使用适用的安全分类器或自定义解决方案。
• 滥用：可能存在欺诈、垃圾邮件或恶意软件生产等滥用形式，开发者应确保应用不违反适用的法律法规。

🔧 技术细节

文档未提供具体技术细节。

📄 许可证

该模型采用MIT许可证，详情请见许可证链接。