G

Gemma 3 27b It Quantized.w4a16

由 RedHatAI 开发
这是google/gemma-3-27b-it的量化版本,支持视觉-文本输入和文本输出,通过权重量化和激活量化优化,可使用vLLM进行高效推理。
下载量 302
发布时间 : 6/4/2025

模型简介

基于google/gemma-3-27b-it的量化模型,支持多模态输入和文本生成,适用于需要高效推理的场景。

模型特点

高效量化
采用INT4权重量化和FP16激活量化,显著减少模型大小和推理资源需求。
多模态支持
支持视觉-文本输入,能够处理图像和文本结合的复杂任务。
高效推理
优化后可通过vLLM进行高效部署和推理,提升处理速度。

模型能力

多模态理解
文本生成
图像内容分析

使用案例

内容理解与生成
图像内容描述
分析图像内容并生成描述性文本
准确识别图像中的主要元素和场景
多模态对话
结合图像和文本输入进行智能对话
提供与图像内容相关的连贯回答
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase