Openvla 7b Finetuned Libero Goal

🚀 OpenVLA 7B Fine-Tuned on LIBERO-Goal

このモデルは、LIBEROシミュレーションベンチマーク のLIBERO-Goalデータセットを用いて、LoRA (r=32) を通じて OpenVLA 7Bモデル をファインチューニングすることで生成されました。最終的なパフォーマンスを向上させるために、学習データセットにいくつかの修正を加えました（詳細は OpenVLA論文 を参照）。

以下は、すべてのLIBERO実験で使用したハイパーパラメータです：

• ハードウェア: 80GBメモリのA100 GPUを8台使用
• LoRAでファインチューニング: use_lora == True, lora_rank == 32, lora_dropout == 0.0
• 学習率: 5e-4
• バッチサイズ: 128 (8台のGPU x 各GPUで16サンプル)
• 学習勾配ステップ数: 60K
• 学習時とテスト時には量子化なし
• 勾配累積なし (すなわち grad_accumulation_steps == 1)
• shuffle_buffer_size == 100_000
• 画像増強: ランダムクロップ、色の変化（詳細は学習コードを参照）

📚 ドキュメント

LIBEROシミュレータでこのモデルを実行し、評価する方法については、OpenVLA GitHub README を参照してください。

📄 ライセンス

このプロジェクトはMITライセンスの下でライセンスされています。

📖 引用

BibTeX:

@article{kim24openvla,
    title={OpenVLA: An Open-Source Vision-Language-Action Model},
    author={{Moo Jin} Kim and Karl Pertsch and Siddharth Karamcheti and Ted Xiao and Ashwin Balakrishna and Suraj Nair and Rafael Rafailov and Ethan Foster and Grace Lam and Pannag Sanketi and Quan Vuong and Thomas Kollar and Benjamin Burchfiel and Russ Tedrake and Dorsa Sadigh and Sergey Levine and Percy Liang and Chelsea Finn},
    journal = {arXiv preprint arXiv:2406.09246},
    year={2024}
}