P

Pixtral 12b FP8 Dynamic

由RedHatAI開發
pixtral-12b-FP8-dynamic 是 mistral-community/pixtral-12b 的量化版本,通過將權重和激活量化為 FP8 數據類型,減少磁盤大小和 GPU 內存需求約 50%,適用於多種語言的商業和研究用途。
下載量 87.31k
發布時間 : 10/10/2024

模型概述

該模型是一個多模態模型,支持文本和圖像輸入,輸出為文本。適用於多種語言的商業和研究用途,特別適合類似助手的聊天場景。

模型特點

FP8量化
通過將權重和激活量化為FP8數據類型,減少磁盤大小和GPU內存需求約50%。
多語言支持
支持英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語、泰語等多種語言。
高效推理
可使用vLLM後端進行高效推理,優化推理速度。

模型能力

文本生成
圖像分析
多模態理解

使用案例

商業助手
多語言客服
用於多語言客服場景,支持多種語言的文本生成和理解。
研究
多模態研究
用於多模態理解和生成的研究,支持文本和圖像的聯合處理。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase