# 多精度量化

UniReason-Qwen3-14B-RL的静态量化版本，适用于文本生成和数学推理研究场景。

该项目提供了Echelon-AI/Med-Qwen2-7B模型的GGUF量化文件，由Featherless AI提供支持，旨在增强模型性能并降低运行成本。

该项目提供了优化后的GGUF量化文件，可显著提升模型性能。这些量化文件由Featherless AI提供支持，用户只需支付少量费用，即可运行任意所需模型。

DeepSeek-R1-Llama-8B-F32-GGUF 是 DeepSeek-R1-Distill-Llama-8B 的量化版本，采用强化学习直接训练，具备自我验证、反思和生成扩展思维链等能力。

DeepSeek-R1-0528 是一个大型语言模型，经过量化处理以优化在不同硬件上的运行效率。

AceReason-Nemotron-7B 是一个基于 Nemotron 架构的 7B 参数规模的大型语言模型，提供多种量化版本以适应不同硬件需求。

Devstral-Small-2505的量化版本，提供多种精度选择以适应不同硬件需求

基于a-m-team/AM-Thinking-v1模型的Llamacpp imatrix量化版本，支持多种量化类型，适用于文本生成任务。

Sam-reason-S2.1的静态量化版本，提供多种量化选项以适应不同硬件需求

MagTie-v1-12B的GGUF量化版本集合，通过mergekit工具合并预训练语言模型创建，适用于文本生成任务。

这是微软Phi-4-reasoning模型的量化版本，使用llama.cpp进行优化，适用于推理任务，支持多种量化选项。

基于Google QAT（量化感知训练）权重量化的Gemma-3-12b模型，提供多种量化版本以适应不同硬件需求。

Llama 2是由Meta开发的7B参数规模的大语言模型，提供多种量化版本以适应不同硬件需求。

14B参数规模的数学推理大语言模型，支持思维链推理

Gemma 3 12B 的 GGUF 量化版本，适用于文本生成任务。

Chroma-GGUF 是一个基于 lodestones/Chroma 的量化模型集合，提供多种不同精度的量化版本，适用于不同的硬件和性能需求。

Lacia_sum_small_v1 是一个基于 T5 架构的静态量化模型，主要用于文本摘要生成任务。支持俄语和英语，适用于自然语言处理领域。

VISION-1是一个基于transformers的内容审核与安全分类模型，专注于文本分类任务。

FLUX.1-Fill-dev 是一个基于 FLUX 技术的文本生成图像模型，专注于图像填充任务。

FLUX.1-Redux-dev是基于FLUX技术栈的文本生成图像模型，支持英语语言，采用非商业许可证。

Stable Diffusion 2.1的GGUF量化版本，支持多种量化精度，适用于文本生成图像任务。

GIGABATEMAN-7B 是一个基于 Mistral 架构的 7B 参数大型语言模型，专注于文本生成任务。

该项目提供了以GGUF格式存储的BGE嵌入模型，适用于与llama.cpp配合使用，提供比transformers更好的性能表现。

Xwin-LM 13B V0.1是基于Llama2架构的大语言模型，由Xwin-LM团队开发。该模型以专业、详尽且礼貌的方式回答用户问题，适用于对话场景。