🚀 sd35m-sfwbooru-v1.1ds
这是一个基于 stabilityai/stable-diffusion-3.5-medium 的全秩微调模型。该模型在图像生成方面有着出色的表现,能够根据输入的文本提示生成高质量的图像。
🚀 快速开始
推理示例
import torch
from diffusers import DiffusionPipeline
model_id = 'bghira/sd35m-sfwbooru-v1.1ds'
pipeline = DiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.bfloat16)
prompt = "A photo-realistic image of a cat"
negative_prompt = 'blurry, cropped, ugly'
pipeline.to('cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu')
model_output = pipeline(
prompt=prompt,
negative_prompt=negative_prompt,
num_inference_steps=50,
generator=torch.Generator(device='cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu').manual_seed(42),
width=1024,
height=1024,
guidance_scale=1.0,
skip_guidance_layers=[],
).images[0]
model_output.save("output.png", format="PNG")
✨ 主要特性
- 基于
stabilityai/stable-diffusion-3.5-medium
进行全秩微调,继承了基础模型的强大能力。
- 文本编码器未进行训练,可复用基础模型的文本编码器进行推理。
- 提供了丰富的训练和推理设置,可根据需求进行调整。
📚 详细文档
验证设置
属性 |
详情 |
CFG |
1.0 |
CFG Rescale |
0.0 |
步数 |
50 |
采样器 |
FlowMatchEulerDiscreteScheduler |
种子 |
42 |
分辨率 |
1024x1024 |
跳过层引导 |
skip_guidance_layers=[] |
注意:验证设置不一定与训练设置相同。
训练设置
属性 |
详情 |
训练轮数 |
0 |
训练步数 |
28000 |
学习率 |
1.0 |
学习率调度 |
余弦 |
热身步数 |
500 |
最大梯度值 |
0.1 |
有效批量大小 |
32 |
微批量大小 |
4 |
梯度累积步数 |
1 |
GPU 数量 |
8 |
梯度检查点 |
True |
预测类型 |
流匹配 (额外参数=['flow_schedule_auto_shift', 'shift=0.0']) |
优化器 |
prodigy |
可训练参数精度 |
Pure BF16 |
基础模型精度 |
no_change |
字幕丢弃概率 |
10.0% |
数据集
sfwbooru-crop
- 重复次数:0
- 图像总数:~363920
- 纵横比桶总数:1
- 分辨率:1.048576 兆像素
- 裁剪:True
- 裁剪风格:随机
- 裁剪纵横比:方形
- 是否用于正则化数据:否
dalle3
- 重复次数:0
- 图像总数:~1188408
- 纵横比桶总数:40
- 分辨率:1.048576 兆像素
- 裁剪:False
- 裁剪风格:无
- 裁剪纵横比:无
- 是否用于正则化数据:否
指数移动平均 (EMA)
SimpleTuner 会生成 EMA 权重的 safetensors 变体和一个 pt 文件。safetensors 文件用于推理,pt 文件用于继续微调。EMA 模型可能会提供更全面的结果,但与完整模型相比,通常会感觉训练不足,因为它是模型权重的运行衰减平均值。
📄 许可证
本项目使用其他许可证。