Instructclip InstructPix2Pix

🚀 InstructCLIP：利用对比学习的自动数据优化改进指令引导的图像编辑

本模型基于论文 Instruct-CLIP: Improving Instruction-Guided Image Editing with Automated Data Refinement Using Contrastive Learning 构建。该模型借助对比学习的自动数据优化技术，有效提升了指令引导的图像编辑效果，为图像编辑领域带来了更高效、精准的解决方案。

GitHub 链接：https://github.com/SherryXTChen/Instruct-CLIP.git

🚀 快速开始

本模型基于论文 Instruct-CLIP: Improving Instruction-Guided Image Editing with Automated Data Refinement Using Contrastive Learning 构建。你可以通过以下步骤快速使用该模型进行图像编辑。

✨ 主要特性

• 多基础模型支持：支持 timbrooks/instruct-pix2pix、SherryXTChen/Instruct-CLIP 和 SherryXTChen/LatentDiffusionDINOv2 等多个基础模型。
• 特定数据集适配：使用 SherryXTChen/InstructCLIP-InstructPix2Pix-Data 数据集进行训练，确保模型在指令引导图像编辑任务上的性能。
• 多领域应用：适用于稳定扩散、文本到图像、图像到图像等多个领域，具有广泛的应用场景。

📦 安装指南

文档中未提及具体安装步骤，可参考 diffusers 库的官方文档进行安装。

💻 使用示例

基础用法

import PIL
import requests
import torch
from diffusers import StableDiffusionInstructPix2PixPipeline, EulerAncestralDiscreteScheduler

model_id = "timbrooks/instruct-pix2pix"
pipe = StableDiffusionInstructPix2PixPipeline.from_pretrained(model_id, torch_dtype=torch.float16)
pipe.load_lora_weights("SherryXTChen/InstructCLIP-InstructPix2Pix")
pipe.to("cuda")
pipe.scheduler = EulerAncestralDiscreteScheduler.from_config(pipe.scheduler.config)

url = "https://raw.githubusercontent.com/SherryXTChen/Instruct-CLIP/refs/heads/main/assets/1_input.jpg"
def download_image(url):
    image = PIL.Image.open(requests.get(url, stream=True).raw)
    image = PIL.ImageOps.exif_transpose(image)
    image = image.convert("RGB")
    return image
image = download_image(url)

prompt = "as a 3 d sculpture"
images = pipe(prompt, image=image, num_inference_steps=20).images
images[0].save("output.jpg")

高级用法

文档中未提及高级用法的代码示例，可根据实际需求对基础用法代码进行扩展。

📚 详细文档

文档中未提供详细的使用说明和参数解释，可参考 diffusers 库的官方文档获取更多信息。

🔧 技术细节

文档中未提供具体的技术实现细节，可参考论文 Instruct-CLIP: Improving Instruction-Guided Image Editing with Automated Data Refinement Using Contrastive Learning 了解模型的技术原理。

📄 许可证

本项目采用 apache-2.0 许可证。

📋 模型信息