Openvla 7b Finetuned Libero Object

🚀 OpenVLA 7B Fine-Tuned on LIBERO-Object

このモデルは、OpenVLA 7Bモデルを、LIBEROシミュレーションベンチマークのLIBERO-Objectデータセットを用いてLoRA (r=32) でファインチューニングすることで生成されました。最終的なパフォーマンスを向上させるために、学習データセットにいくつかの変更を加えました（詳細はOpenVLA論文を参照）。

以下は、すべてのLIBERO実験で使用したハイパーパラメータです：

• ハードウェア: 80GBメモリのA100 GPUを8台使用
• LoRAでファインチューニング: use_lora == True, lora_rank == 32, lora_dropout == 0.0
• 学習率: 5e-4
• バッチサイズ: 128 (8台のGPU x 各GPUで16サンプル)
• 学習勾配ステップ数: 50K
• 学習時とテスト時には量子化を行わない
• 勾配累積は行わない (すなわち grad_accumulation_steps == 1)
• shuffle_buffer_size == 100_000
• 画像拡張: ランダムクロップ、色の変更（詳細は学習コードを参照）

🚀 クイックスタート

OpenVLAのGitHubのREADMEを参照して、このモデルをLIBEROシミュレータで実行および評価する方法を確認してください。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

📚 ドキュメント

引用

BibTeX:

@article{kim24openvla,
    title={OpenVLA: An Open-Source Vision-Language-Action Model},
    author={{Moo Jin} Kim and Karl Pertsch and Siddharth Karamcheti and Ted Xiao and Ashwin Balakrishna and Suraj Nair and Rafael Rafailov and Ethan Foster and Grace Lam and Pannag Sanketi and Quan Vuong and Thomas Kollar and Benjamin Burchfiel and Russ Tedrake and Dorsa Sadigh and Sergey Levine and Percy Liang and Chelsea Finn},
    journal = {arXiv preprint arXiv:2406.09246},
    year={2024}
}