license: mit license_link: https://huggingface.co/microsoft/Phi-4-reasoning-plus/resolve/main/LICENSE language:

• en base_model:
• microsoft/Phi-4-reasoning-plus pipeline_tag: text-generation tags:
• phi
• unsloth
• nlp
• math
• code
• chat
• conversational
• reasoning inference: parameters: temperature: 0 widget:
• messages:
  • role: user content: x^2の微分は何ですか？ library_name: transformers

Phi-4-reasoning-plus モデルカード

Phi-4-reasoning テクニカルレポート

モデル概要

意図された使用法

データ概要

訓練データセット

私たちの訓練データは、数学、科学、コーディングにおけるQ&A、チャット形式のデータの混合物です。チャットプロンプトは、フィルタリングされた高品質なウェブデータからソースされ、必要に応じて書き直され、合成データ生成パイプラインを通じて処理されます。さらに、真実性と安全性を向上させるためのデータを含めています。

ベンチマークデータセット

Phi-4-reasoning-plusを評価するために、オープンソースのEureka評価スイートと私たち自身の内部ベンチマークを使用して、モデルの能力を理解しました。具体的には、以下のタスクでモデルを評価しました：

推論タスク：

• AIME 2025, 2024, 2023, 2022: 数学オリンピックの問題。

• GPQA-Diamond: 複雑な大学院レベルの科学問題。

• OmniMath: 人間の注釈付きの4000以上のオリンピックレベルの数学問題のコレクション。

• LiveCodeBench: 競技プログラミングコンテストから収集されたコード生成ベンチマーク。

• 3SAT (3-リテラル充足可能性問題) と TSP (巡回セールスマン問題): アルゴリズム問題解決。

• BA Calendar: 計画。

• Maze と SpatialMap: 空間理解。

一般的なベンチマーク：

• Kitab: 情報検索。

• IFEval と ArenaHard: 指示追従。

• PhiBench: 内部ベンチマーク。

• FlenQA: プロンプト長がモデル性能に与える影響。

• HumanEvalPlus: 機能的なコード生成。

• MMLU-Pro: 多タスク言語理解のための人気のある集約データセット。

安全性

アプローチ

Phi-4-reasoning-plusは、教師ありファインチューニング（SFT）による堅牢な安全性ポストトレーニングアプローチを採用しています。このアプローチは、オープンソースと社内生成の合成プロンプトの両方を活用し、Microsoftの厳格な安全性ガイドラインに準拠したLLM生成応答を使用しています。例えば、ユーザー理解と明確さ、セキュリティと倫理ガイドライン、制限、免責事項と知識範囲、複雑で敏感なトピックの扱い、安全性と尊重ある関与、ガイドラインの機密性と連鎖思考の機密性などです。

安全性評価とレッドチーミング

リリース前に、Phi-4-reasoning-plusは多面的な評価アプローチを採用しました。定量的評価は、複数のオープンソース安全性ベンチマークと敵対的会話シミュレーションを利用する社内ツールで実施されました。定性的安全性評価では、Microsoftの独立したAIレッドチーム（AIRT）と協力して、平均的および敵対的なユーザーシナリオでPhi-4-reasoning-plusがもたらす安全性リスクを評価しました。平均的なユーザーシナリオでは、AIRTは典型的な単一ターンおよび複数ターンの相互作用を模倣して潜在的に危険な行動を特定しました。敵対的なユーザーシナリオでは、モデルの安全性訓練を意図的に回避するための幅広い技術をテストしました。これには、根拠性、ジェイルブレイク、憎悪や不公平、暴力、性的コンテンツ、自傷行為などの有害コンテンツ、保護された資料の著作権侵害などが含まれます。さらに、マイノリティグループを対象としたバイアスと毒性を測定するように設計されたベンチマークであるToxigenでモデルを評価しました。

安全性アラインメントの詳細については、テクニカルレポートを参照してください。

モデル品質

代表的なベンチマークにおけるモデル品質の概要です。以下の表では、高い数値がより良い性能を示します：

全体として、Phi-4-reasoningとPhi-4-reasoning-plusは、14Bパラメータのみで、広範な推論タスクで優れた性能を発揮し、DeepSeek-R1蒸留70Bモデルなどの大幅に大きなオープンウェイトモデルを上回り、完全なDeepSeek R1モデルの性能レベルに近づいています。また、3SAT、TSP、BA-Calendarなどのアルゴリズム問題解決と計画のための新しい推論ベンチマークでモデルをテストしました。これらの新しいタスクは、訓練プロセスがこれらのスキルを意図的に対象としていなかったため、名目上はモデルのドメイン外ですが、モデルはこれらのタスクに対して強い汎化能力を示しています。さらに、指示追従や非推論タスクなどの標準的な一般能力ベンチマークに対する性能を評価すると、特定のドメインでの推論スキルに焦点を当てたポストトレーニングにもかかわらず、新しいモデルがPhi-4から大幅に改善されていることがわかります。

使用方法

推論パラメータ

推論は、temperature=0.8、top_p=0.95、do_sample=Trueでより良くなります。より複雑なクエリの場合、最大トークン数を32kに設定して、より長い連鎖思考（CoT）を可能にします。

Phi-4-reasoning-plusは、推論集約型タスクで強い性能を示しています。私たちの実験では、最大トークン数を64kに拡張し、長いシーケンスを有望な結果で処理し、拡張された入力に対して一貫性と論理的一貫性を維持しました。これは、深い多段階の推論または広範なコンテキストを必要とするタスクを探索するための魅力的なオプションとなります。

入力形式

訓練データの性質上、推論には常に以下のシステムプロンプトを含むChatMLテンプレートを使用してください：

<|im_start|>system<|im_sep|>
アシスタントとしてのあなたの役割は、最終的な正確な解決策を提供する前に、体系的思考プロセスを通じて質問を徹底的に探求することです。これには、分析、要約、探求、再評価、反省、バックトレース、反復を含む包括的なサイクルに従事して、よく考えられた思考プロセスを開発する必要があります。応答を2つの主要セクション、すなわち思考セクションと解決策セクションに構造化してください。指定された形式を使用してください：<think> {思考セクション} </think> {解決策セクション}。思考セクションでは、ステップごとに推論プロセスを詳細に説明してください。各ステップには、質問の分析、関連する発見の要約、新しいアイデアのブレインストーミング、現在のステップの正確性の検証、エラーの洗練、以前のステップの再訪などの詳細な考慮事項を含めてください。解決策セクションでは、思考セクションからのさまざまな試み、探求、反省に基づいて、あなたが正しいと考える最終的な解決策を体系的に提示してください。解決策セクションは、論理的で正確かつ簡潔であり、結論に達するために必要なステップを詳細に説明する必要があります。さて、上記のガイドラインに従って次の質問を解決してみてください：<|im_end|>
<|im_start|>user<|im_sep|>
x^2の微分は何ですか？<|im_end|>
<|im_start|>assistant<|im_sep|>

transformersを使用する場合

from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("microsoft/Phi-4-reasoning-plus")
model = AutoModelForCausalLM.from_pretrained("microsoft/Phi-4-reasoning-plus", device_map="auto", torch_dtype="auto")

messages = [
    {"role": "system", "content": "あなたはPhiです、Microsoftによって訓練された言語モデルで、ユーザーを助けるために設計されています。アシスタントとしてのあなたの役割は、最終的な正確な解決策を提供する前に、体系的思考プロセスを通じて質問を徹底的に探求することです。これには、分析、要約、探求、再評価、反省、バックトレース、反復を含む包括的なサイクルに従事して、よく考えられた思考プロセスを開発する必要があります。応答を2つの主要セクション、すなわち思考セクションと解決策セクションに構造化してください。指定された形式を使用してください：<think> {思考セクション} </think> {解決策セクション}。思考セクションでは、ステップごとに推論プロセスを詳細に説明してください。各ステップには、質問の分析、関連する発見の要約、新しいアイデアのブレインストーミング、現在のステップの正確性の検証、エラーの洗練、以前のステップの再訪などの詳細な考慮事項を含めてください。解決策セクションでは、思考セクションからのさまざまな試み、探求、反省に基づいて、あなたが正しいと考える最終的な解決策を体系的に提示してください。解決策セクションは、論理的で正確かつ簡潔であり、結論に達するために必要なステップを詳細に説明する必要があります。さて、上記のガイドラインに従って次の質問を解決してみてください："},
    {"role": "user", "content": "x^2の微分は何ですか？"},
]
inputs = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

outputs = model.generate(
    inputs.to(model.device),
    max_new_tokens=4096,
    temperature=0.8,
    top_p=0.95,
    do_sample=True,
)
print(tokenizer.decode(outputs[0]))

vllmを使用する場合

vllm serve microsoft/Phi-4-reasoning-plus --enable-reasoning --reasoning-parser deepseek_r1

Phi-4-reasoning-plusは、Ollama、llama.cpp、およびPhi-4互換のフレームワークでもすぐに使用できます。

責任あるAIの考慮事項

他の言語モデルと同様に、Phi-4-reasoning-plusは不公平、信頼性が低い、または攻撃的な方法で動作する可能性があります。注意すべき制限行動には以下が含まれます：

• サービスの品質: モデルは主に英語のテキストで訓練されています。英語以外の言語は性能が低下します。訓練データで表現が少ない英語のバリエーションは、標準的なアメリカ英語よりも性能が低下する可能性があります。Phi-4-reasoning-plusは多言語使用をサポートすることを意図していません。

• 危害の表現とステレオタイプの永続化: これらのモデルは、人々のグループを過剰または過少に表現したり、一部のグループの表現を消去したり、軽蔑的または否定的なステレオタイプを強化したりする可能性があります。安全性ポストトレーニングにもかかわらず、これらの制限は、異なるグループの表現レベルや訓練データにおける否定的なステレオタイプの例の普及が現実世界のパターンや社会的バイアスを反映しているため、依然として存在する可能性があります。

• 不適切または攻撃的なコンテンツ: これらのモデルは、他の種類の不適切または攻撃的なコンテンツを生成する可能性があり、追加の緩和策なしに敏感なコンテキストに展開するには不適切かもしれません。

• 情報の信頼性: 言語モデルは、無意味なコンテンツを生成したり、合理的に聞こえるが不正確または時代遅れの内容を作成したりする可能性があります。

• 選挙情報の信頼性: モデルは、選挙に関連するクエリに応答する際に欠陥率が高く、誤ったまたは非公式の選挙関連情報が提示される可能性があります。この分野でのモデルの性能を向上させるために取り組んでいます。ユーザーは、選挙に関連する情報を地域の選挙当局で確認する必要があります。

• コードの限定的な範囲: Phi-4-reasoning-plusの訓練データの大部分はPythonに基づいており、typing、math、random、collections、datetime、itertoolsなどの一般的なパッケージを使用しています。モデルが他のパッケージを利用するPythonスクリプトや他の言語のスクリプトを生成する場合、すべてのAPI使用を手動で確認することを強くお勧めします。

開発者は、責任あるAIのベストプラクティスを適用し、特定の使用ケースが関連する法律や規制（プライバシー、貿易など）に準拠していることを確認する責任があります。Azure AI Content Safetyなどの高度なガードレールを持つ安全性サービスを使用することを強くお勧めします。考慮すべき重要な領域には以下が含まれます：

• 割り当て: モデルは、法的地位や資源や生活機会の割り当て（例：住宅、雇用、信用など）に影響を与える可能性のあるシナリオには、さらなる評価と追加のバイアス除去技術なしには適していない可能性があります。

• 高リスクシナリオ: 開発者は、不公平、信頼性が低い、または攻撃的な出力が非常にコストがかかるまたは危害を引き起こす可能性のある高リスクシナリオでモデルを使用する適切性を評価する必要があります。これには、正確性と信頼性が重要な敏感または専門的なドメイン（例：法律または健康アドバイス）でのアドバイスの提供が含まれます。展開コンテキストに応じて、アプリケーションレベルで追加の保護策を実装する必要があります。

• 誤情報: モデルは不正確な情報を生成する可能性があります。開発者は、透明性のベストプラクティスに従い、エンドユーザーがAIシステムと対話していることを知らせる必要があります。アプリケーションレベルでは、開発者はフィードバックメカニズムとパイプラインを構築して、使用ケース固有の文脈情報に応答を基づかせることができます。これは、Retrieval Augmented Generation（RAG）として知られる技術です。

• 有害コンテンツの生成: 開発者は、コンテキストに応じて出力を評価し、使用ケースに適した利用可能な安全性分類器またはカスタムソリューションを使用する必要があります。

• 誤用: 詐欺、スパム、マルウェア作成などの他の形態の誤用が可能であり、開発者は、アプリケーションが適用可能な法律や規制に違反しないことを確認する必要があります。