Phi 4 Reasoning Plus GGUF

🚀 Phi-4-reasoning-plus

Phi-4-reasoning-plus是一個經過微調的先進推理模型，基於Phi-4進行監督微調與強化學習訓練。它在數學、科學和編碼等推理任務上表現出色，適用於對內存、計算和延遲有要求的場景。

🚀 快速開始

• 你可以使用transformers庫來運行Phi-4-reasoning-plus模型，示例代碼如下：

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

• 你也可以使用vllm來運行模型：

vllm serve microsoft/Phi-4-reasoning-plus --enable-reasoning --reasoning-parser deepseek_r1

⚠️ 重要提示

你必須在llama.cpp中使用--jinja來啟用推理。否則，將不會提供<think>標記。

💡 使用建議

推理時，使用temperature=0.8、top_p=0.95和do_sample=True效果更佳。對於更復雜的查詢，將最大令牌數設置為32k，以支持更長的思維鏈（CoT）。

✨ 主要特性

• 先進的推理能力：通過監督微調與強化學習訓練，在數學、科學和編碼等推理任務上表現出色。
• 高效的架構：基於14B參數的密集解碼器Transformer模型，適用於內存和計算受限的環境。
• 長上下文處理：支持32k令牌的上下文長度，能夠處理複雜的輸入。
• 多場景適用：適用於對延遲有要求的場景，以及需要推理和邏輯的通用AI系統和應用。

📦 安裝指南

文檔未提供具體安裝步驟，可參考上述快速開始部分的代碼示例進行使用。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "You are Phi, a language model trained by Microsoft to help users. Your role as an assistant involves thoroughly exploring questions through a systematic thinking process before providing the final precise and accurate solutions. This requires engaging in a comprehensive cycle of analysis, summarizing, exploration, reassessment, reflection, backtracing, and iteration to develop well-considered thinking process. Please structure your response into two main sections: Thought and Solution using the specified format: <think> {Thought section} </think> {Solution section}. In the Thought section, detail your reasoning process in steps. Each step should include detailed considerations such as analysing questions, summarizing relevant findings, brainstorming new ideas, verifying the accuracy of the current steps, refining any errors, and revisiting previous steps. In the Solution section, based on various attempts, explorations, and reflections from the Thought section, systematically present the final solution that you deem correct. The Solution section should be logical, accurate, and concise and detail necessary steps needed to reach the conclusion. Now, try to solve the following question through the above guidelines:"},
    {"role": "user", "content": "What is the derivative of x^2?"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

高級用法

vllm serve microsoft/Phi-4-reasoning-plus --enable-reasoning --reasoning-parser deepseek_r1

📚 詳細文檔

模型概述

預期用途

數據概述

訓練數據集

訓練數據是數學、科學和編碼領域的問答和聊天格式數據的混合。聊天提示來自過濾後的高質量網絡數據，並可選擇通過合成數據生成管道進行重寫和處理。此外，還包括提高真實性和安全性的數據。

基準數據集

使用開源的Eureka評估套件和內部基準評估Phi-4-reasoning-plus的能力，具體評估任務包括：

• 推理任務：AIME 2025、2024、2023和2022數學奧林匹克問題、GPQA-Diamond複雜科學問題、OmniMath奧林匹克級數學問題集、LiveCodeBench代碼生成基準、3SAT和TSP算法問題解決、BA Calendar規劃、Maze和SpatialMap空間理解。
• 通用基準：Kitab信息檢索、IFEval和ArenaHard指令跟隨、PhiBench內部基準、FlenQA提示長度對模型性能的影響、HumanEvalPlus功能代碼生成、MMLU-Pro多任務語言理解聚合數據集。

安全性

方法

Phi-4-reasoning-plus採用了強大的安全後訓練方法，通過監督微調（SFT），利用各種開源和內部生成的合成提示，以及符合微軟嚴格安全指南的LLM生成響應。

安全評估和紅隊測試

在發佈之前，Phi-4-reasoning-plus採用了多方面的評估方法。通過多個開源安全基準和內部工具進行定量評估，利用對抗性對話模擬。在定性安全評估方面，與微軟的獨立AI紅隊（AIRT）合作，評估在平均和對抗性用戶場景中模型帶來的安全風險。還在Toxigen基準上評估模型，該基準旨在測量針對少數群體的偏差和毒性。

模型質量

在代表性基準上的模型質量概述，以下表格中，數值越高表示性能越好：

總體而言，Phi-4-reasoning和Phi-4-reasoning-plus僅具有14B參數，在廣泛的推理任務中表現出色，顯著優於更大的開放權重模型，如DeepSeek-R1蒸餾70B模型，並接近完整DeepSeek R1模型的性能水平。

負責任AI考慮

與其他語言模型一樣，Phi-4-reasoning-plus可能存在不公平、不可靠或冒犯性的行為。開發者應應用負責任AI最佳實踐，確保特定用例符合相關法律法規，並使用安全服務，如Azure AI Content Safety。需要考慮的重要領域包括：

• 分配：模型可能不適用於對法律地位、資源分配或生活機會有重大影響的場景，需要進一步評估和去偏技術。
• 高風險場景：開發者應評估在高風險場景中使用模型的適用性，如提供敏感或專業領域的建議，需要在應用層面實施額外的保障措施。
• 錯誤信息：模型可能產生不準確的信息，開發者應遵循透明度最佳實踐，並建立反饋機制和管道，以確保響應基於特定用例的上下文信息。
• 有害內容生成：開發者應評估輸出的上下文，並使用適用的安全分類器或自定義解決方案。
• 濫用：可能存在欺詐、垃圾郵件或惡意軟件生產等濫用形式，開發者應確保應用不違反適用的法律法規。

🔧 技術細節

文檔未提供具體技術細節。

📄 許可證

該模型採用MIT許可證，詳情請見許可證鏈接。