P

Phi 3 Mini 4k Instruct Q4

由bongodongo開發
Phi-3 4k Instruct 是一個輕量級但功能強大的語言模型,經過4位量化處理以降低資源需求。
下載量 39
發布時間 : 4/28/2024

模型概述

該模型是Phi-3系列的小型版本,專為指令跟隨任務優化,適用於資源受限環境。

模型特點

4位量化
使用BitsAndBytes進行4位量化,顯著降低內存需求
雙重量化
採用雙重量化技術進一步優化模型大小
高效推理
在資源受限設備上仍能保持良好性能
指令優化
專門針對指令跟隨任務進行訓練和優化

模型能力

文本生成
指令理解與執行
問答系統
內容摘要

使用案例

智能助手
個人數字助理
在移動設備或邊緣設備上運行的個人助手應用
快速響應用戶查詢,執行簡單任務
教育
學習輔導
幫助學生解答問題、解釋概念
提供即時學習支持
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase