Hidream I1 Fast Nf4

🚀 HiDream-I1 4Bit量子化モデル

このリポジトリは、HiDream-I1を4ビットに量子化したもので、全モデルを16GB未満のVRAMで実行できるようになっています。

元のリポジトリはこちらで確認できます。

HiDream-I1は、170億のパラメータを持つ新しいオープンソースの画像生成基礎モデルで、数秒で最先端の画像生成品質を実現します。

✨ 主な機能

全バージョンと蒸留モデルの両方を提供しています。パラメータサイズは同じであるため、実行に必要なGPUメモリの量も同じです。ただし、蒸留モデルは推論ステップ数が減少しているため、より高速です。

🔧 技術詳細

ハードウェア要件

• GPUアーキテクチャ: NVIDIA >= Ampere (例: A100, H100, A40, RTX 3090, RTX 4090)
• GPU RAM: >= 16 GB
• CPU RAM: >= 16 GB

🚀 クイックスタート

以下のコマンドを実行するだけです。

pip install hdi1 --no-build-isolation

⚠️ 重要提示

このパッケージについては、依存関係の競合を避けるために、新しいPython環境を作成することをお勧めします。 そのためには、conda create -n hdi1 python=3.12 を実行してから conda activate hdi1 を実行することができます。 または、Linuxでは python3 -m venv venv を実行してから source venv/bin/activate を、Windowsでは venv\Scripts\activate を実行することができます。

コマンドラインインターフェース

次に、モジュールを実行して画像を生成することができます。

python -m hdi1 "A cat holding a sign that says 'hello world'"

# または、モデルを指定することもできます
python -m hdi1 "A cat holding a sign that says 'hello world'" -m fast

⚠️ 重要提示

推論スクリプトは、自動的に meta-llama/Llama-3.1-8B-Instruct モデルファイルをダウンロードしようとします。自動ダウンローダーを使用するには、HuggingFaceアカウントでLlamaモデルのライセンスに同意し、huggingface-cli login を使用してログインする必要があります。

Webダッシュボード

対話型の画像生成用のWebダッシュボードも提供しています。以下のコマンドを実行することで起動できます。

python -m hdi1.web

📄 ライセンス

このリポジトリ内のコードとHiDream-I1モデルは、MITライセンスの下でライセンスされています。