RL

🚀 DQN 智能體玩轉 SpaceInvadersNoFrameskip-v4

本項目是一個經過訓練的 DQN 智能體，它使用 stable-baselines3 庫 和 RL Zoo 來玩 SpaceInvadersNoFrameskip-v4 遊戲。RL Zoo 是 Stable Baselines3 強化學習智能體的訓練框架，包含超參數優化和預訓練智能體。

🚀 快速開始

本項目展示瞭如何使用訓練好的模型以及如何進行模型訓練。

✨ 主要特性

• 訓練好的 DQN 智能體可直接用於 SpaceInvadersNoFrameskip-v4 遊戲。
• 提供了使用 RL Zoo 進行模型下載、運行和訓練的詳細步驟。
• 公開了訓練所使用的超參數。

📦 安裝指南

本項目依賴於 RL Zoo、SB3 和 SB3 Contrib，相關鏈接如下：

• RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
• SB3: https://github.com/DLR-RM/stable-baselines3
• SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

💻 使用示例

基礎用法

以下命令可用於下載模型並將其保存到 logs/ 文件夾，然後運行模型：

# 下載模型並保存到 logs/ 文件夾
python -m utils.load_from_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -orga skyline22 -f logs/
python enjoy.py --algo dqn --env SpaceInvadersNoFrameskip-v4  -f logs/

高級用法

以下命令可用於訓練模型，並在可能的情況下上傳模型並生成視頻：

python train.py --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/
# 上傳模型並生成視頻（如果可行）
python -m utils.push_to_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga skyline22

🔧 技術細節

模型指標

超參數

OrderedDict([('batch_size', 32),
             ('buffer_size', 100000),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('exploration_final_eps', 0.01),
             ('exploration_fraction', 0.1),
             ('frame_stack', 4),
             ('gradient_steps', 1),
             ('learning_rate', 0.0001),
             ('learning_starts', 100000),
             ('n_timesteps', 10000000.0),
             ('optimize_memory_usage', True),
             ('policy', 'CnnPolicy'),
             ('target_update_interval', 1000),
             ('train_freq', 4),
             ('normalize', False)])