Hidream I1 Full Nf4

🚀 HiDream-I1 4位量化模型

本倉庫是 HiDream-I1 的4位量化分支，可讓整個模型在小於16GB的顯存中運行。

原倉庫地址：點擊查看

HiDream-I1 是一個新的開源圖像生成基礎模型，擁有170億參數，能在數秒內實現最先進的圖像生成質量。

✨ 主要特性

• 提供全量版本和蒸餾模型，參數規模相同，但蒸餾模型推理步驟減少，運行速度更快。
• 4位量化版本可在小於16GB顯存中運行。

📦 安裝指南

安裝依賴

pip install hdi1 --no-build-isolation

⚠️ 重要提示

建議為該包創建一個新的Python環境，以避免依賴衝突。 你可以使用 conda create -n hdi1 python=3.12 創建環境，然後使用 conda activate hdi1 激活環境。 或者在Linux系統使用 python3 -m venv venv 創建虛擬環境，然後使用 source venv/bin/activate 激活；在Windows系統使用 venv\Scripts\activate 激活。

💻 使用示例

基礎用法

命令行界面

運行以下命令生成圖像：

python -m hdi1 "A cat holding a sign that says 'hello world'"

# 或者你可以指定模型
python -m hdi1 "A cat holding a sign that says 'hello world'" -m fast

⚠️ 重要提示

推理腳本會嘗試自動下載 meta-llama/Llama-3.1-8B-Instruct 模型文件。你需要在HuggingFace賬戶上同意Llama模型的許可協議，並使用 huggingface-cli login 登錄，才能使用自動下載器。

網頁儀表盤

運行以下命令啟動交互式圖像生成的網頁儀表盤：

python -m hdi1.web

📚 詳細文檔

模型信息

我們提供全量版本和蒸餾模型，參數規模相同，運行所需的GPU內存也相同。不過，蒸餾模型由於推理步驟減少，運行速度更快。

硬件要求

• GPU架構：NVIDIA >= Ampere（如A100、H100、A40、RTX 3090、RTX 4090）
• GPU顯存：>= 16 GB
• CPU內存：>= 16 GB

📄 許可證

本倉庫中的代碼和HiDream-I1模型遵循 MIT許可證。