G

Gemma 3 27b It Quantized.w4a16

RedHatAIによって開発
これはgoogle/gemma-3-27b-itの量子化バージョンで、ビジュアル - テキスト入力とテキスト出力をサポートし、重み量子化と活性化量子化による最適化を行い、vLLMを使用して高効率推論が可能です。
ダウンロード数 302
リリース時間 : 6/4/2025

モデル概要

google/gemma-3-27b-itに基づく量子化モデルで、マルチモーダル入力とテキスト生成をサポートし、高効率推論が必要なシーンに適しています。

モデル特徴

高効率量子化
INT4重み量子化とFP16活性化量子化を採用し、モデルサイズと推論リソースの要件を大幅に削減します。
マルチモーダルサポート
ビジュアル - テキスト入力をサポートし、画像とテキストを組み合わせた複雑なタスクを処理できます。
高効率推論
最適化後、vLLMを通じて高効率なデプロイと推論が可能で、処理速度が向上します。

モデル能力

マルチモーダル理解
テキスト生成
画像内容分析

使用事例

内容理解と生成
画像内容記述
画像内容を分析して記述的なテキストを生成する
画像内の主要な要素とシーンを正確に識別する
マルチモーダル対話
画像とテキスト入力を組み合わせてスマートな対話を行う
画像内容に関連する首尾一貫した回答を提供する
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase