AIbase
EN
Model Selection
Tags
4bit量化高效推理

# 4bit量化高效推理

Llama 3.2 11B Vision Radiology Mini
这是一个基于Llama架构的多模态模型，支持视觉和文本指令，经过4位量化优化。
图像生成文本
L
p4rzvl
69
0
Smolvlm2 2.2B Instruct 4bit
Apache-2.0
SmolVLM2-2.2B-Instruct-4bit 是一个基于 MLX 格式转换的视觉语言模型，专注于视频文本到文本的任务。
图像生成文本 Transformers English
S
smdesai
24
1
Qwen2 VL 7B Latex OCR
Apache-2.0
基于Qwen2-VL-7B模型的微调版本，使用Unsloth和Huggingface TRL库进行训练，推理速度提升2倍。
文本生成图像 Transformers English
Q
erickrus
35
3
Qwen2.5 1.5B TrSummarization Unsloth GGUF
Apache-2.0
基于Qwen2.5-1.5B模型微调的4位量化版本，专注于土耳其语文本生成和摘要任务
大型语言模型 Other
Q
anilguven
29
0
Llama3.2 1b TrSummarization Unsloth GGUF
Apache-2.0
基于unsloth/Llama-3.2-1B-bnb-4bit微调的土耳其语文本生成模型，专注于摘要生成任务。
大型语言模型 Other
L
anilguven
20
0
Llama3.2 3b TrSummarization Unsloth GGUF
Apache-2.0
基于unsloth/Llama-3.2-3B-bnb-4bit微调的土耳其语文本生成模型，专注于摘要生成任务。
大型语言模型 Other
L
anilguven
48
0
AIbase
Empowering the Future, Your AI Solution Knowledge Base
English简体中文繁體中文にほんご
© 2025AIbase