🚀 DQN 智能体玩转 SpaceInvadersNoFrameskip-v4
本项目是一个经过训练的 DQN 智能体,它使用 stable-baselines3 库 和 RL Zoo 来玩 SpaceInvadersNoFrameskip-v4 游戏。RL Zoo 是一个用于 Stable Baselines3 强化学习智能体的训练框架,包含超参数优化和预训练智能体。
✨ 主要特性
📦 安装指南
本项目依赖于 RL Zoo 和 SB3 相关库,可通过以下链接获取:
- RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
- SB3: https://github.com/DLR-RM/stable-baselines3
- SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib
💻 使用示例
基础用法
如果你想使用 RL Zoo 运行预训练模型,可以按照以下步骤操作:
# 下载模型并保存到 logs/ 文件夹
python -m rl_zoo3.load_from_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -orga Oleg78 -f logs/
python enjoy.py --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/
如果你通过 pip 安装了 RL Zoo3 (pip install rl_zoo3
),可以在任意位置执行以下命令:
python -m rl_zoo3.load_from_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -orga Oleg78 -f logs/
rl_zoo3 enjoy --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/
高级用法
以下是使用 RL Zoo 进行模型训练和上传的命令:
python train.py --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/
# 上传模型并生成视频(如果可能)
python -m rl_zoo3.push_to_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga Oleg78
🔧 技术细节
模型指标
属性 |
详情 |
模型类型 |
DQN |
训练数据 |
SpaceInvadersNoFrameskip-v4 |
平均奖励 |
347.50 +/- 111.07 |
超参数设置
OrderedDict([('batch_size', 32),
('buffer_size', 100000),
('env_wrapper',
['stable_baselines3.common.atari_wrappers.AtariWrapper']),
('exploration_final_eps', 0.01),
('exploration_fraction', 0.1),
('frame_stack', 4),
('gradient_steps', 1),
('learning_rate', 0.0001),
('learning_starts', 100000),
('n_timesteps', 500000.0),
('optimize_memory_usage', False),
('policy', 'CnnPolicy'),
('target_update_interval', 1000),
('train_freq', 4),
('normalize', False)])