Sd35m Sfwbooru Lokr

🚀 sd35m-sfwbooru-lokr

這是一個基於 stabilityai/stable-diffusion-3.5-medium 的標準PEFT LoRA模型。該模型可用於生成高質量的圖像，在圖像生成領域具有重要的應用價值。

🚀 快速開始

推理示例

以下是使用該模型進行推理的示例代碼：

import torch
from diffusers import DiffusionPipeline

model_id = 'stabilityai/stable-diffusion-3.5-medium'
adapter_id = 'bghira/sd35m-sfwbooru-lokr'
pipeline = DiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.bfloat16) # loading directly in bf16
pipeline.load_lora_weights(adapter_id)

prompt = "A photo-realistic image of a cat"
negative_prompt = 'blurry, cropped, ugly'

## Optional: quantise the model to save on vram.
## Note: The model was not quantised during training, so it is not necessary to quantise it during inference time.
#from optimum.quanto import quantize, freeze, qint8
#quantize(pipeline.transformer, weights=qint8)
#freeze(pipeline.transformer)
    
pipeline.to('cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu') # the pipeline is already in its target precision level
model_output = pipeline(
    prompt=prompt,
    negative_prompt=negative_prompt,
    num_inference_steps=30,
    generator=torch.Generator(device='cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu').manual_seed(42),
    width=1024,
    height=1024,
    guidance_scale=3.2,
    skip_guidance_layers=[7, 8, 9],
).images[0]

model_output.save("output.png", format="PNG")

驗證設置

• CFG: 3.2
• CFG Rescale: 0.0
• 步數: 30
• 採樣器: FlowMatchEulerDiscreteScheduler
• 隨機種子: 42
• 分辨率: 1024x1024
• 跳過層引導: skip_guidance_layers=[7, 8, 9]

注意：驗證設置不一定與訓練設置相同。

示例圖像

你可以在以下圖庫中找到一些示例圖像：

文本編碼器

文本編碼器未進行訓練。你可以重用基礎模型的文本編碼器進行推理。

✨ 主要特性

• 基於 stabilityai/stable-diffusion-3.5-medium 基礎模型，生成高質量圖像。
• 訓練過程中使用特定的驗證提示和設置，確保模型性能。
• 提供了詳細的訓練設置和數據集信息。

📦 安裝指南

文檔未提供安裝相關內容，可參考基礎模型 stabilityai/stable-diffusion-3.5-medium 的安裝說明。

📚 詳細文檔

訓練設置

• 訓練輪數: 4
• 訓練步數: 264250
• 學習率: 1.0
  • 學習率調度: 餘弦
  • 熱身步數: 500000
• 最大梯度值: 0.0
• 有效批量大小: 6
  • 微批量大小: 6
  • 梯度累積步數: 1
  • GPU數量: 1
• 梯度檢查點: 啟用
• 預測類型: 流匹配 (額外參數=['shift=3'])
• 優化器: prodigyd0=1e-8,eps=1e-8
• 可訓練參數精度: 純BF16
• 基礎模型精度: no_change
• 字幕丟棄概率: 10.0%
• LoRA秩: 16
• LoRA Alpha: 無
• LoRA丟棄率: 0.1
• LoRA初始化風格: 默認

數據集

sfwbooru-crop

• 重複次數: 0
• 圖像總數: 363920
• 縱橫比桶總數: 1
• 分辨率: 1.048576 兆像素
• 裁剪: 是
• 裁剪風格: 隨機
• 裁剪縱橫比: 方形
• 用於正則化數據: 否

🔧 技術細節

指數移動平均 (EMA)

SimpleTuner 生成了 EMA 權重的 safetensors 變體和一個 pt 文件。safetensors 文件用於推理，pt 文件用於繼續微調。EMA 模型可能會提供更全面的結果，但與完整模型相比，通常會感覺訓練不足，因為它是模型權重的運行衰減平均值。

📄 許可證

該項目使用其他許可證。具體許可證信息請參考相關文件。