Ppo LunarLander V2

🚀 稳定基线3（Stable-Baselines3）的PPO智能体在月球着陆器环境中的应用

本项目展示了使用 稳定基线3库 和 强化学习动物园（RL Zoo） 训练的 近端策略优化（PPO） 智能体在 月球着陆器（LunarLander-v2） 环境中的表现。强化学习动物园是一个针对稳定基线3强化学习智能体的训练框架，包含超参数优化和预训练智能体。

🚀 快速开始

模型使用（借助SB3 RL Zoo）

你可以按照以下步骤使用预训练模型：

# 下载模型并保存到logs/文件夹中
python -m rl_zoo3.load_from_hub --algo ppo --env LunarLander-v2 -orga sb3 -f logs/
python enjoy.py --algo ppo --env LunarLander-v2  -f logs/

模型训练（借助RL Zoo）

若要重新训练模型，可执行以下命令：

python train.py --algo ppo --env LunarLander-v2 -f logs/
# 上传模型并生成视频（如果可能）
python -m rl_zoo3.push_to_hub --algo ppo --env LunarLander-v2 -f logs/ -orga sb3

✨ 主要特性

• 使用近端策略优化（PPO）算法训练智能体，在月球着陆器（LunarLander-v2）环境中取得了平均奖励 233.56 +/- 53.89 的成绩。
• 借助稳定基线3库和强化学习动物园，实现了高效的训练和超参数优化。

📦 安装指南

本README未提及具体安装步骤，你可以参考以下项目链接进行安装：

• RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
• SB3: https://github.com/DLR-RM/stable-baselines3
• SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

💻 使用示例

基础用法

# 下载模型并保存到logs/文件夹中
python -m rl_zoo3.load_from_hub --algo ppo --env LunarLander-v2 -orga sb3 -f logs/
python enjoy.py --algo ppo --env LunarLander-v2  -f logs/

高级用法

# 重新训练模型
python train.py --algo ppo --env LunarLander-v2 -f logs/
# 上传模型并生成视频（如果可能）
python -m rl_zoo3.push_to_hub --algo ppo --env LunarLander-v2 -f logs/ -orga sb3

🔧 技术细节

超参数设置

OrderedDict([('batch_size', 64),
             ('ent_coef', 0.01),
             ('gae_lambda', 0.98),
             ('gamma', 0.999),
             ('n_envs', 16),
             ('n_epochs', 4),
             ('n_steps', 1024),
             ('n_timesteps', 1000000.0),
             ('policy', 'MlpPolicy'),
             ('normalize', False)])

📄 模型指标