Flash Pixart

🚀 ⚡ Flash Diffusion: FlashPixart ⚡

Flash Diffusionは、Jasper ResearchのClément Chadebec、Onur Tasar、Eyal Benaroche、およびBenjamin Aubinによる論文Flash Diffusion: Accelerating Any Conditional Diffusion Model for Few Steps Image Generationで提案された拡散蒸留手法です。このモデルは、Pixart-αモデルの6650万パラメータのLoRA蒸留バージョンで、4ステップで1024x1024の画像を生成できます。ライブデモと公式Githubリポジトリもご覧ください。

🚀 クイックスタート

このモデルは、diffusersライブラリのPixArtAlphaPipelineを直接使用して利用できます。必要なサンプリングステップ数を4ステップに減らすことができます。

基本的な使用法

import torch
from diffusers import PixArtAlphaPipeline, Transformer2DModel, LCMScheduler
from peft import PeftModel

# Load LoRA
transformer = Transformer2DModel.from_pretrained(
  "PixArt-alpha/PixArt-XL-2-1024-MS",
  subfolder="transformer",
  torch_dtype=torch.float16
)
transformer = PeftModel.from_pretrained(
  transformer,
  "jasperai/flash-pixart"
)

# Pipeline
pipe = PixArtAlphaPipeline.from_pretrained(
  "PixArt-alpha/PixArt-XL-2-1024-MS",
  transformer=transformer,
  torch_dtype=torch.float16
)

# Scheduler
pipe.scheduler = LCMScheduler.from_pretrained(
  "PixArt-alpha/PixArt-XL-2-1024-MS",
  subfolder="scheduler",
  timestep_spacing="trailing",
)

pipe.to("cuda")

prompt = "A raccoon reading a book in a lush forest."

image = pipe(prompt, num_inference_steps=4, guidance_scale=0).images[0]

🔧 技術詳細

このモデルは、4台のH100 GPUで40,000回の反復学習を行っています（約188時間の学習に相当）。詳細なパラメータについては、論文を参照してください。

COCO 2014検証データセットの評価指標 (表4)

• FID-10k: 29.30 (4 NFE)
• CLIP Score: 0.303 (4 NFE)

📚 ドキュメント

引用

この研究が役に立った場合や、あなたの研究で使用する場合は、以下のように引用してください。

@misc{chadebec2024flash,
      title={Flash Diffusion: Accelerating Any Conditional Diffusion Model for Few Steps Image Generation}, 
      author={Clement Chadebec and Onur Tasar and Eyal Benaroche and Benjamin Aubin},
      year={2024},
      eprint={2406.02347},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}

📄 ライセンス

このモデルは、Creative Commons BY - NCライセンスの下で公開されています。