Q

Qwen Qwen3 8B GGUF

Developed by bartowski
Qwen3-8B的量化版本,使用llama.cpp的imatrix选项进行量化,适用于文本生成任务。
Downloads 23.88k
Release Time : 4/28/2025

Model Overview

基于Qwen/Qwen3-8B的量化版本,支持多种量化类型,适用于文本生成任务,可在LM Studio或llama.cpp中运行。

Model Features

多种量化类型
提供从BF16到Q2_K的多种量化版本,满足不同硬件和性能需求。
高质量推荐
推荐使用Q6_K_L、Q6_K、Q5_K_L等高质量量化版本,接近完美性能。
支持ARM/AVX设备
支持ARM和AVX设备的在线重打包,优化硬件性能。
imatrix量化
使用imatrix选项进行量化,提升模型性能。

Model Capabilities

文本生成
多轮对话
上下文理解

Use Cases

文本生成
对话系统
可用于构建智能对话系统,支持多轮对话。
内容创作
生成高质量文本内容,如文章、故事等。
AIbase
Empowering the Future, Your AI Solution Knowledge Base
© 2025AIbase