Sdxl Emoji

🚀 sdxl-emoji LoRA

sdxl-emoji LoRA是一個基於蘋果表情符號的SDXL微調模型，可用於文本到圖像的生成。

🚀 快速開始

使用Replicate API進行推理

首先，你可以從這裡獲取Replicate令牌。

pip install replicate
export REPLICATE_API_TOKEN=r8_*************************************

以下是使用Python代碼進行推理的示例：

import replicate

output = replicate.run(
    "sdxl-emoji@sha256:dee76b5afde21b0f01ed7925f0665b7e879c50ee718c5f78a9d38e04d523cc5e",
    input={"prompt": "A TOK emoji of a man"}
)
print(output)

你還可以通過Node.js或curl使用API進行推理，也可以使用COG和Docker在本地進行推理。查看此模型的Replicate API頁面

使用 🧨 diffusers 進行推理

Replicate SDXL LoRAs是使用關鍵調優（Pivotal Tuning）進行訓練的，它結合了通過Dreambooth LoRA訓練概念和通過文本反轉訓練新令牌。由於diffusers目前還不支持SDXL的文本反轉，我們將使用cog-sdxl的TokenEmbeddingsHandler類。

提示詞中的觸發令牌為 <s0><s1>

pip install diffusers transformers accelerate safetensors huggingface_hub
git clone https://github.com/replicate/cog-sdxl cog_sdxl

import torch
from huggingface_hub import hf_hub_download
from diffusers import DiffusionPipeline
from cog_sdxl.dataset_and_utils import TokenEmbeddingsHandler
from diffusers.models import AutoencoderKL

pipe = DiffusionPipeline.from_pretrained(
        "stabilityai/stable-diffusion-xl-base-1.0",
        torch_dtype=torch.float16,
        variant="fp16",
).to("cuda")

pipe.load_lora_weights("fofr/sdxl-emoji", weight_name="lora.safetensors")

text_encoders = [pipe.text_encoder, pipe.text_encoder_2]
tokenizers = [pipe.tokenizer, pipe.tokenizer_2]

embedding_path = hf_hub_download(repo_id="fofr/sdxl-emoji", filename="embeddings.pti", repo_type="model")
embhandler = TokenEmbeddingsHandler(text_encoders, tokenizers)
embhandler.load_embeddings(embedding_path)
prompt="A <s0><s1> emoji of a man"
images = pipe(
    prompt,
    cross_attention_kwargs={"scale": 0.8},
).images
# 你的輸出圖像
images[0]

📄 許可證

本項目採用CreativeML OpenRAIL-M許可證。

📦 模型信息

此項目由 fofr 創建。