P

Pixtral 12b FP8 Dynamic

RedHatAIによって開発
pixtral-12b-FP8-dynamicはmistral-community/pixtral-12bの量子化バージョンで、重みと活性化をFP8データ型に量子化することで、ディスク容量とGPUメモリの要件を約50%削減し、複数の言語の商用および研究用途に適しています。
ダウンロード数 87.31k
リリース時間 : 10/10/2024

モデル概要

このモデルはマルチモーダルモデルで、テキストと画像の入力をサポートし、出力はテキストです。複数の言語の商用および研究用途に適しており、特にアシスタントのようなチャットシーンに適しています。

モデル特徴

FP8量子化
重みと活性化をFP8データ型に量子化することで、ディスク容量とGPUメモリの要件を約50%削減します。
多言語対応
英語、ドイツ語、フランス語、イタリア語、ポルトガル語、ヒンディー語、スペイン語、タイ語など複数の言語をサポートします。
効率的な推論
vLLMバックエンドを使用して効率的な推論を行い、推論速度を最適化できます。

モデル能力

テキスト生成
画像分析
マルチモーダル理解

使用事例

商用アシスタント
多言語カスタマーサービス
多言語カスタマーサービスシーンに使用され、複数の言語のテキスト生成と理解をサポートします。
研究
マルチモーダル研究
マルチモーダル理解と生成の研究に使用され、テキストと画像の統合処理をサポートします。
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase