Hidream I1 Full Nf4

🚀 HiDream-I1 4Bit量子化モデル

このリポジトリは、HiDream-I1を4ビットに量子化したもので、全モデルを16GB未満のVRAMで実行できるようになっています。

元のリポジトリはこちらで確認できます。

HiDream-I1は、170億パラメータを持つ新しいオープンソースの画像生成基礎モデルで、数秒で最先端の画像生成品質を達成します。

✨ 主な機能

モデル

完全版と蒸留モデルの両方を提供しています。パラメータサイズは同じであるため、実行に必要なGPUメモリ量も同じです。ただし、蒸留モデルは推論ステップ数が減少しているため、より高速に動作します。

ハードウェア要件

• GPUアーキテクチャ: NVIDIA >= Ampere (例: A100, H100, A40, RTX 3090, RTX 4090)
• GPU RAM: >= 16 GB
• CPU RAM: >= 16 GB

🚀 クイックスタート

以下のコマンドを実行するだけです。

pip install hdi1 --no-build-isolation

⚠️ 重要提示

このパッケージを使用するには、依存関係の競合を避けるために新しいPython環境を作成することをお勧めします。
そのためには、conda create -n hdi1 python=3.12 を実行してから conda activate hdi1 と入力します。
または、Linuxでは python3 -m venv venv を実行してから source venv/bin/activate 、Windowsでは venv\Scripts\activate を実行します。

コマンドラインインターフェイス

次に、モジュールを実行して画像を生成できます。

python -m hdi1 "A cat holding a sign that says 'hello world'"

# または、モデルを指定することもできます
python -m hdi1 "A cat holding a sign that says 'hello world'" -m fast

⚠️ 重要提示

推論スクリプトは自動的に meta-llama/Llama-3.1-8B-Instruct モデルファイルをダウンロードしようとします。自動ダウンローダーを使用するには、HuggingFaceアカウントでLlamaモデルのライセンスに同意し、huggingface-cli login を使用してログインする必要があります。

ウェブダッシュボード

対話型の画像生成用のウェブダッシュボードも提供しています。以下のコマンドを実行することで起動できます。

python -m hdi1.web

📄 ライセンス

このリポジトリ内のコードとHiDream-I1モデルは、MITライセンスの下で提供されています。