Hidream I1 Dev Nf4

🚀 HiDream-I1 4位量化模型

本倉庫是 HiDream-I1 的一個分支，將模型量化為4位，使得整個模型可以在小於16GB的顯存中運行。

原始倉庫可在此處找到。

HiDream-I1 是一個新的開源圖像生成基礎模型，擁有170億參數，能在數秒內實現最先進的圖像生成質量。

🚀 快速開始

直接運行以下命令：

pip install hdi1 --no-build-isolation

⚠️ 重要提示

建議為這個包創建一個新的Python環境，以避免依賴衝突。 你可以使用 conda create -n hdi1 python=3.12 然後 conda activate hdi1 來創建和激活環境。 或者在Linux上使用 python3 -m venv venv 然後 source venv/bin/activate，在Windows上使用 venv\Scripts\activate。

命令行界面

然後你可以運行該模塊來生成圖像：

python -m hdi1 "A cat holding a sign that says 'hello world'"

# 或者你可以指定模型
python -m hdi1 "A cat holding a sign that says 'hello world'" -m fast

⚠️ 重要提示

推理腳本會嘗試自動下載 meta-llama/Llama-3.1-8B-Instruct 模型文件。你需要在HuggingFace賬戶上同意Llama模型的許可協議，並使用 huggingface-cli login 登錄，才能使用自動下載器。

網頁儀表盤

我們還提供了一個用於交互式圖像生成的網頁儀表盤。你可以通過運行以下命令來啟動它：

python -m hdi1.web

✨ 主要特性

我們同時提供完整版本和蒸餾模型。參數大小相同，因此運行時所需的GPU內存也相同。然而，由於推理步驟減少，蒸餾模型的運行速度更快。

🔧 技術細節

硬件要求

• GPU架構：NVIDIA >= Ampere（例如A100、H100、A40、RTX 3090、RTX 4090）
• GPU顯存：>= 16 GB
• CPU內存：>= 16 GB

📄 許可證

本倉庫中的代碼和HiDream-I1模型遵循MIT許可證。