多模态量化

# 多模态量化

Qwen2.5 VL 7B Meteorology GGUF

Qwen2.5-VL-7B-Meteorology 的量化版本，适用于气象相关的图像文本处理任务。

图像生成文本

Transformers 英语

Gemma 3n E2B GGUF

Google Gemma-3n-E2B模型的静态量化版本，提供多种量化类型以平衡模型大小和性能。

大型语言模型

Transformers 英语

Gemma 3 4b It Quantized.w4a16

基于google/gemma-3-4b-it的量化版本，采用INT4权重量化和FP16激活量化，优化推理效率

图像生成文本

Mistral Community Pixtral 12b GGUF

这是pixtral-12b模型的量化版本，使用llama.cpp进行量化，支持图像文本到文本的任务。

图像文本到文本

Smolvlm2 2.2B Instruct GGUF

SmolVLM2-2.2B-Instruct 是一个2.2B参数量的视觉语言模型，专注于视频文本转文本任务，支持英语。

文本生成文本英语

精选推荐AI模型

Llama 3 Typhoon V1.5x 8b Instruct

专为泰语设计的80亿参数指令模型，性能媲美GPT-3.5-turbo，优化了应用场景、检索增强生成、受限生成和推理任务

大型语言模型

Transformers 支持多种语言

Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型，专为边缘设备推理设计，体积仅为Cosmo-3B模型的2%左右。

Transformers 英语

Roberta Base Chinese Extractive Qa

基于RoBERTa架构的中文抽取式问答模型，适用于从给定文本中提取答案的任务。

问答系统中文

AIbase

智启未来，您的人工智能解决方案智库

English 简体中文繁體中文にほんご

© 2025AIbase