Ppo BreakoutNoFrameskip V4

🚀 PPO 智能體玩轉 BreakoutNoFrameskip-v4

本項目是一個經過訓練的 PPO 智能體，它使用 stable-baselines3 庫 和 RL Zoo 來玩 BreakoutNoFrameskip-v4 遊戲。RL Zoo 是一個用於 Stable Baselines3 強化學習智能體的訓練框架，包含超參數優化和預訓練智能體。

✨ 主要特性

• 基於 PPO 算法訓練的智能體，可在 BreakoutNoFrameskip-v4 遊戲中表現出色。
• 利用 stable-baselines3 庫 和 RL Zoo 進行訓練和部署。
• 提供了詳細的使用和訓練步驟，方便用戶快速上手。

📦 安裝指南

本項目依賴於以下庫和框架：

• RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
• SB3: https://github.com/DLR-RM/stable-baselines3
• SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

請確保你已經安裝了這些庫，然後按照以下步驟進行操作。

💻 使用示例

基礎用法

# 下載模型並保存到 logs/ 文件夾
python -m rl_zoo3.load_from_hub --algo ppo --env BreakoutNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo ppo --env BreakoutNoFrameskip-v4  -f logs/

高級用法

python train.py --algo ppo --env BreakoutNoFrameskip-v4 -f logs/
# 上傳模型並生成視頻（如果可能）
python -m rl_zoo3.push_to_hub --algo ppo --env BreakoutNoFrameskip-v4 -f logs/ -orga sb3

🔧 技術細節

超參數

OrderedDict([('batch_size', 256),
             ('clip_range', 'lin_0.1'),
             ('ent_coef', 0.01),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('frame_stack', 4),
             ('learning_rate', 'lin_2.5e-4'),
             ('n_envs', 8),
             ('n_epochs', 4),
             ('n_steps', 128),
             ('n_timesteps', 10000000.0),
             ('policy', 'CnnPolicy'),
             ('vf_coef', 0.5),
             ('normalize', False)])

模型評估指標