P

Phi 3 Mini 128k Instruct Onnx

Developed by microsoft
Phi-3 Mini 是一款輕量級、最先進的開源模型,專注於高質量、富含推理能力的數據,支持128K上下文長度。
Downloads 169
Release Time : 4/23/2024

Model Overview

這是為 ONNX Runtime 推理轉換的 Phi-3 Mini-128K-Instruct 模型,支持跨平臺運行,包括 CPU、GPU 和移動設備。

Model Features

高性能推理
在 ONNX Runtime 中的表現優於 PyTorch,適用於所有批大小和提示長度的組合。
多平臺支持
支持跨設備的 CPU 和 GPU,包括服務器平臺、Windows、Linux 和 Mac 桌面設備,以及移動端 CPU。
量化優化
提供多種量化配置,包括 int4 和 fp16,以適應不同硬件需求。
增強的安全措施
模型經過嚴格的增強流程,結合了監督微調和直接偏好優化,確保精確的指令遵循和強大的安全措施。

Model Capabilities

文本生成
對話式交互
指令遵循
推理能力

Use Cases

對話系統
生成笑話
模型可以生成幽默的文本回復,適合對話系統應用。
為什麼科學家不相信原子?因為它們構成了一切!
代碼生成
代碼輔助
模型可以生成代碼片段,幫助開發者快速完成編程任務。
AIbase
Empowering the Future, Your AI Solution Knowledge Base
© 2025AIbase