Nunchaku Flux.1 Schnell

🚀 nunchaku-flux.1-schnell模型

本仓库包含 FLUX.1-schnell 的Nunchaku量化版本，旨在根据文本提示生成高质量图像。它在保持性能损失最小的同时，针对高效推理进行了优化。

⚠️ 重要提示

本仓库已迁移至 https://huggingface.co/nunchaku-tech/nunchaku-flux.1-schnell，并将于2025年12月隐藏。

🚀 快速开始

本仓库提供了基于文本生成高质量图像的模型，通过量化技术在保证性能的同时提升推理效率。下面为你介绍模型的详细信息及使用方法。

✨ 主要特性

• 高质量图像生成：能够根据文本提示生成高质量的图像。
• 高效推理：经过量化优化，在推理时能保持高效。
• 多版本支持：提供针对不同GPU类型的量化模型版本。

📚 详细文档

模型详情

模型描述

模型文件

• svdq-int4_r32-flux.1-schnell.safetensors：SVDQuant量化的INT4 FLUX.1-schnell模型，适用于非Blackwell GPU（50系列之前）的用户。
• svdq-fp4_r32-flux.1-schnell.safetensors：SVDQuant量化的NVFP4 FLUX.1-schnell模型，适用于Blackwell GPU（50系列）的用户。

模型来源

• 推理引擎：nunchaku
• 量化库：deepcompressor
• 论文：SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models
• 演示：svdquant.mit.edu

使用方法

• Diffusers使用方法：请参考 flux.1-schnell.py。更多高级用法请查看我们的 教程。
• ComfyUI使用方法：请参考 nunchaku-flux.1-schnell.json。

性能表现

引用信息

@inproceedings{
  li2024svdquant,
  title={SVDQuant: Absorbing Outliers by Low-Rank Components for 4-Bit Diffusion Models},
  author={Li*, Muyang and Lin*, Yujun and Zhang*, Zhekai and Cai, Tianle and Li, Xiuyu and Guo, Junxian and Xie, Enze and Meng, Chenlin and Zhu, Jun-Yan and Han, Song},
  booktitle={The Thirteenth International Conference on Learning Representations},
  year={2025}
}