M

Mistral Small 3.1 24B Instruct 2503 GPTQ 4b 128g

ISTA-DASLabによって開発
本モデルはMistral-Small-3.1-24B-Instruct-2503をINT4量子化したバージョンで、GPTQアルゴリズムにより重みを16ビットから4ビットに削減し、ディスクサイズとGPUメモリ要件を大幅に削減しました。
ダウンロード数 21.89k
リリース時間 : 3/20/2025

モデル概要

このモデルはMistral-Small-3.1-24B-Instruct-2503の量子化バージョンで、主にテキスト生成タスクに使用され、マルチモーダル入力(画像+テキスト)をサポートします。量子化後も元のモデルの97.8%の性能を維持しています。

モデル特徴

効率的な量子化
INT4量子化技術を採用し、ディスクスペースとGPUメモリ要件を75%削減
高性能維持
量子化後も元のモデルの97.8%の性能を維持
マルチモーダルサポート
画像とテキストの結合入力を処理可能
効率的な推論
最適化されたモデルはリソース制約環境での展開に適しています

モデル能力

テキスト生成
画像キャプション生成
マルチモーダル理解
命令追従

使用事例

コンテンツ生成
画像キャプション生成
入力画像に基づいて詳細な説明を生成
正確で詳細な画像説明を生成可能
インテリジェントアシスタント
マルチモーダル対話
画像とテキストを含む複雑な対話を処理
視覚情報を含む複雑なクエリを理解し応答可能
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase