Flux Lora Training

🚀 flux-lora-training

このプロジェクトは、black-forest-labs/FLUX.1-dev をベースにした標準的なPEFT LoRAです。このモデルは、特定の猫の画像生成を目的として開発され、特定の検証プロンプトと設定を用いて訓練されています。

🚀 クイックスタート

このモデルを使用するには、以下の手順に従ってください。まず、必要なライブラリをインポートし、モデルとアダプターをロードします。その後、プロンプトを設定し、推論を実行して画像を生成します。

import torch
from diffusers import DiffusionPipeline

model_id = 'black-forest-labs/FLUX.1-dev'
adapter_id = 'Forezeztgump/flux-lora-training'
pipeline = DiffusionPipeline.from_pretrained(model_id, torch_dtype=torch.bfloat16) # loading directly in bf16
pipeline.load_lora_weights(adapter_id)

prompt = "photo of $kora the cat sleeping on a windowsill."


## Optional: quantise the model to save on vram.
## Note: The model was not quantised during training, so it is not necessary to quantise it during inference time.
#from optimum.quanto import quantize, freeze, qint8
#quantize(pipeline.transformer, weights=qint8)
#freeze(pipeline.transformer)
    
pipeline.to('cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu') # the pipeline is already in its target precision level
model_output = pipeline(
    prompt=prompt,
    num_inference_steps=15,
    generator=torch.Generator(device='cuda' if torch.cuda.is_available() else 'mps' if torch.backends.mps.is_available() else 'cpu').manual_seed(42),
    width=1024,
    height=1024,
    guidance_scale=3.5,
).images[0]

model_output.save("output.png", format="PNG")

✨ 主な機能

• 特定の猫の画像生成：指定した猫（$kora）の画像を生成することができます。
• 柔軟な設定：検証設定や訓練設定を柔軟に変更することができます。
• モデルの再利用：ベースモデルのテキストエンコーダーを再利用して推論を行うことができます。

📚 ドキュメント

検証設定

• CFG: 3.5
• CFG Rescale: 0.0
• ステップ数: 15
• サンプラー: FlowMatchEulerDiscreteScheduler
• シード: 42
• 解像度: 1024x1024
• スキップレイヤーガイダンス:

注意: 検証設定は 訓練設定 と必ずしも同じではありません。

訓練設定

• 訓練エポック数: 384

• 訓練ステップ数: 5000

• 学習率: 0.0001

  • 学習率スケジュール: constant_with_warmup
  • ウォームアップステップ数: 100

• 最大勾配値: 1.0

• 有効バッチサイズ: 4

  • マイクロバッチサイズ: 4
  • 勾配累積ステップ数: 1
  • GPU数: 1

• 勾配チェックポイント: True

• 予測タイプ: flow-matching (追加パラメータ=['flow_schedule_auto_shift', 'shift=0.0', 'flux_guidance_mode=constant', 'flux_guidance_value=1.0', 'flow_matching_loss=compatible', 'flux_lora_target=all+ffs'])

• オプティマイザー: adamw_bf16

• 訓練可能パラメータ精度: Pure BF16

• ベースモデル精度: no_change

• キャプションドロップアウト確率: 0.0%

• LoRAランク: 16

• LoRAアルファ: None

• LoRAドロップアウト: 0.1

• LoRA初期化スタイル: default

データセット

kora_image_data

• 繰り返し数: 0
• 画像総数: 50
• アスペクトバケット総数: 1
• 解像度: 1.048576メガピクセル
• クロップ: True
• クロップスタイル: 中央
• クロップアスペクト: 正方形
• 正則化データとして使用: いいえ

📄 ライセンス

ライセンス情報: other