Flux.1 Lite 8B Alpha

🚀 Flux.1 Lite

Freepikは、FLUX.1-devモデルから蒸留された80億パラメータのTransformerモデルであるFlux.1 Liteのアルファ版をリリースします。このバージョンは、元のモデルと同じ精度（bfloat16）を維持しながら、7GB少ないRAMを使用し、23％高速に動作します。

🚀 クイックスタート

テキストから画像への変換

Flux.1 Liteはあなたの創造性を引き出します！最高の結果を得るために、強く**guidance_scaleを3.5に設定し、n_stepsを22から30の間に設定することをおすすめします**。

import torch
from diffusers import FluxPipeline

base_model_id = "Freepik/flux.1-lite-8B-alpha"
torch_dtype = torch.bfloat16
device = "cuda"

# Load the pipe
model_id = "Freepik/flux.1-lite-8B-alpha"
pipe = FluxPipeline.from_pretrained(
    model_id, torch_dtype=torch_dtype
).to(device)

# Inference
prompt = "A close-up image of a green alien with fluorescent skin in the middle of a dark purple forest"

guidance_scale = 3.5  # Keep guidance_scale at 3.5
n_steps = 28
seed = 11

with torch.inference_mode():
    image = pipe(
        prompt=prompt,
        generator=torch.Generator(device="cpu").manual_seed(seed),
        num_inference_steps=n_steps,
        guidance_scale=guidance_scale,
        height=1024,
        width=1024,
    ).images[0]
image.save("output.png")

✨ 主な機能

モチベーション

Ostrisの調査結果に触発され、各ブロックの入力と出力の平均二乗誤差（MSE）を分析し、最終結果への貢献度を定量化しました。その結果、各ブロックの貢献度には大きなばらつきがあることが明らかになりました。

Ostrisが指摘したように、すべてのブロックが均等に貢献するわけではありません。初期のMMDiTまたは後期のDiTブロックの1つをスキップするだけでモデルの性能に大きな影響を与える一方で、それらの間の単一のブロックをスキップしても最終的な画像品質には大きな影響を与えません。

将来の展望

引き続きお楽しみに！私たちの目標は、FLUX.1-devをさらに蒸留し、24GBの消費者向けGPUカードでもスムーズに動作し、元の精度（bfloat16）を維持し、さらに高速に動作するようにすることで、誰もが高品質なAIモデルを利用できるようにすることです。

ComfyUI

Flux.1 Liteの使用をさらにシームレスにするために、ComfyUIワークフローを作成しました！comfy/flux.1-lite_workflow.jsonで見つけることができます。

safetensorsチェックポイントはこちらで入手できます: flux.1-lite-8B-alpha.safetensors

HF spaces 🤗

TheAwakenOneのおかげで、Flux.1 Lite HF spaceでもモデルをテストできます。

Freepikで試してみる！

私たちのAIジェネレーターは、現在Flux.1 Liteを搭載しています！

🔥 ニュース 🔥

• 2024年12月30日。Flux.1 Lite 8Bの新しい学習済みモデルがHuggingFace Repoで公開されました。
• 2024年10月28日。Flux.1 Lite 8B AlphaのHFスペースがHF Spaceで利用可能になりました。TheAwakenOneに感謝します。
• 2024年10月23日。Alpha 8BチェックポイントがHuggingFace Repoで公開されました。

📚 ドキュメント

引用

もし私たちの研究が役に立った場合は、引用していただけると幸いです！

@article{flux1-lite,
  title={Flux.1 Lite: Distilling Flux1.dev for Efficient Text-to-Image Generation},
  author={Daniel Verdú, Javier Martín},
  email={dverdu@freepik.com, javier.martin@freepik.com},
  year={2024},
}

帰属通知

FLUX.1 [dev]モデルは、Black Forest Labs. Inc.によってFLUX.1 [dev]非商用ライセンスの下でライセンスされています。著作権はBlack Forest Labs. Inc.に帰属します。

私たちのモデルの重みは、FLUX.1 [dev]非商用ライセンスの下で公開されています。

📄 ライセンス

• ライセンス: その他
• ライセンス名: flux-1-dev-non-commercial-license
• ライセンスリンク: https://huggingface.co/black-forest-labs/FLUX.1-dev/resolve/main/LICENSE.md