Ppo SpaceInvadersNoFrameskip V4

🚀 PPO 智能体玩转 SpaceInvadersNoFrameskip-v4

本项目是一个经过训练的 PPO 智能体，它使用 stable-baselines3 库 和 RL Zoo 来玩 SpaceInvadersNoFrameskip-v4 游戏。RL Zoo 是 Stable Baselines3 强化学习智能体的训练框架，包含超参数优化和预训练智能体。

🚀 快速开始

模型下载与运行

# 下载模型并保存到 logs/ 文件夹
python -m rl_zoo3.load_from_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo ppo --env SpaceInvadersNoFrameskip-v4  -f logs/

模型训练与上传

python train.py --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/
# 上传模型并生成视频（如果可能）
python -m rl_zoo3.push_to_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga sb3

✨ 主要特性

本项目使用 PPO 算法训练智能体，使其能够在 SpaceInvadersNoFrameskip-v4 游戏中表现出色。同时，借助 RL Zoo 框架，可以方便地进行超参数优化和模型训练。

📦 安装指南

本项目依赖以下库：

• RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
• SB3: https://github.com/DLR-RM/stable-baselines3
• SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

请确保在运行代码前安装好这些依赖。

💻 使用示例

基础用法

# 下载模型并保存到 logs/ 文件夹
python -m rl_zoo3.load_from_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo ppo --env SpaceInvadersNoFrameskip-v4  -f logs/

高级用法

python train.py --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/
# 上传模型并生成视频（如果可能）
python -m rl_zoo3.push_to_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga sb3

📚 详细文档

超参数

OrderedDict([('batch_size', 256),
             ('clip_range', 'lin_0.1'),
             ('ent_coef', 0.01),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('frame_stack', 4),
             ('learning_rate', 'lin_2.5e-4'),
             ('n_envs', 8),
             ('n_epochs', 4),
             ('n_steps', 128),
             ('n_timesteps', 10000000.0),
             ('policy', 'CnnPolicy'),
             ('vf_coef', 0.5),
             ('normalize', False)])

模型指标