Hidream I1 Fast Nf4

🚀 HiDream-I1 4位量化模型

本項目是 HiDream-I1 的4位量化版本，可讓整個模型在小於16GB的顯存下運行。

原項目倉庫可點擊此處查看。

HiDream-I1 是一個新的開源圖像生成基礎模型，擁有170億參數，能在數秒內實現最先進的圖像生成質量。

✨ 主要特性

• 提供完整版本和蒸餾模型，參數規模相同，但蒸餾模型因推理步驟減少而速度更快。
• 支持命令行界面和Web儀表盤兩種方式進行圖像生成。

📦 安裝指南

安裝依賴

pip install hdi1 --no-build-isolation

⚠️ 重要提示

建議為該包創建一個新的Python環境，以避免依賴衝突。 你可以使用 conda create -n hdi1 python=3.12 創建環境，然後使用 conda activate hdi1 激活環境。 或者，在Linux上使用 python3 -m venv venv 創建虛擬環境，然後使用 source venv/bin/activate 激活；在Windows上使用 venv\Scripts\activate 激活。

💻 使用示例

命令行界面

運行以下命令生成圖像：

python -m hdi1 "A cat holding a sign that says 'hello world'"

# 或者你可以指定模型
python -m hdi1 "A cat holding a sign that says 'hello world'" -m fast

⚠️ 重要提示

推理腳本會嘗試自動下載 meta-llama/Llama-3.1-8B-Instruct 模型文件。你需要在HuggingFace賬戶上同意Llama模型的許可協議，並使用 huggingface-cli login 登錄，才能使用自動下載器。

Web儀表盤

運行以下命令啟動Web儀表盤進行交互式圖像生成：

python -m hdi1.web

📚 詳細文檔

模型信息

我們提供完整版本和蒸餾模型，參數規模相同，運行所需的GPU內存也相同，但蒸餾模型因推理步驟減少而速度更快。

硬件要求

• GPU架構：NVIDIA >= Ampere（如A100、H100、A40、RTX 3090、RTX 4090）
• GPU顯存：>= 16 GB
• CPU內存：>= 16 GB

📄 許可證

本倉庫中的代碼和HiDream-I1模型遵循MIT許可證。