Uni 3DAR

🚀 Uni-3DAR

Uni-3DARは、様々な3Dタスクを統合した自己回帰モデルです。特に、分子、タンパク質、結晶などの微視的構造から巨視的な3D構造まで、さまざまな3Dデータタイプを扱い、多様なタスクをサポートします。また、高い効率と精度を実現しています。

🚀 クイックスタート

Uni-3DARは、様々な3Dタスクを統合した自己回帰モデルです。以下に、QM9データセットでの再現手順を示します。

✨ 主な機能

• 複数の3Dデータタイプの統一処理：現在は分子、タンパク質、結晶などの微視的構造に焦点を当てていますが、提案手法は巨視的な3D構造にもシームレスに適用できます。
• 多様なタスクのサポート：単一のモデルで広範なタスクを自然にサポートし、特に生成と理解の両方に対応しています。
• 高い効率：オクトリー圧縮と提案する2レベルのサブツリー圧縮を組み合わせて、フルサイズのグリッドでは数万トークン必要なのに対し、数百トークンで全3D空間を表現します。推論ベンチマークでも、拡散ベースのモデルよりもはるかに高速であることが示されています。
• 高い精度：オクトリー圧縮に基づき、細粒度の3Dパッチをトークン化して構造の詳細を維持し、以前の拡散ベースのモデルよりも大幅に優れた生成品質を達成します。

📦 インストール

依存関係

• Uni-Core。便利な方法として、事前構築されたDockerイメージを使用できます。

docker pull dptechnology/unicore:2407-pytorch2.4.0-cuda12.5-rdma

💻 使用例

基礎的な使用法

QM9データセットでの結果再現

事前学習モデルとデータセットのダウンロード

事前学習チェックポイント (qm9.pt) とデータセットアーカイブ (qm9_data.tar.gz) を Hugging Faceリポジトリ からダウンロードします。

事前学習モデルでの推論

事前学習モデルを使用してQM9分子を生成するには、以下のコマンドを実行します。

bash inference_qm9.sh qm9.pt

ゼロからの学習

モデルをゼロから学習するには、以下の手順に従います。

1. データセットを解凍します。

tar -xzvf qm9_data.tar.gz

2. 希望のデータパスと実験名で学習スクリプトを実行します。

base_dir=/your_folder_to_save/ bash train_qm9.sh ./qm9_data/ name_of_your_exp

📚 ドキュメント

最新情報

2025-03-21：コアモデルとQM9の学習および推論パイプラインを公開しました。

📄 ライセンス

本プロジェクトはMITライセンスのもとで公開されています。

🔗 参考文献

本データ/コード/モデルを使用する場合は、以下の論文を引用してください。

@article{lu2025uni3dar,
  author    = {Shuqi Lu and Haowei Lin and Lin Yao and Zhifeng Gao and Xiaohong Ji and Weinan E and Linfeng Zhang and Guolin Ke},
  title     = {Uni-3DAR: Unified 3D Generation and Understanding via Autoregression on Compressed Spatial Tokens},
  journal   = {Arxiv},
  year      = {2025},
}