Ppo SpaceInvadersNoFrameskip V4

🚀 Stable - Baselines3 ライブラリを用いたPPOエージェントによるSpaceInvadersNoFrameskip - v4のプレイ

このモデルは、[stable - baselines3ライブラリ](https://github.com/DLR - RM/stable - baselines3) と [RL Zoo](https://github.com/DLR - RM/rl - baselines3 - zoo) を使用して、SpaceInvadersNoFrameskip - v4 をプレイするように学習された PPO エージェントです。

RL Zooは、Stable Baselines3の強化学習エージェントのトレーニングフレームワークで、ハイパーパラメータの最適化と事前学習済みのエージェントが含まれています。

🚀 クイックスタート

モデルのダウンロードと実行

RL Zoo: https://github.com/DLR - RM/rl - baselines3 - zoo
SB3: https://github.com/DLR - RM/stable - baselines3
SB3 Contrib: https://github.com/Stable - Baselines - Team/stable - baselines3 - contrib

# モデルをダウンロードしてlogs/フォルダに保存
python -m rl_zoo3.load_from_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo ppo --env SpaceInvadersNoFrameskip-v4  -f logs/

モデルのトレーニング

python train.py --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/
# モデルをアップロードし、可能な場合はビデオを生成
python -m rl_zoo3.push_to_hub --algo ppo --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga sb3

✨ 主な機能

このモデルは、PPOアルゴリズムを使用して、SpaceInvadersNoFrameskip - v4 ゲームにおいて高い平均報酬を達成します。以下はモデルの評価指標です。

🔧 技術詳細

ハイパーパラメータ

OrderedDict([('batch_size', 256),
             ('clip_range', 'lin_0.1'),
             ('ent_coef', 0.01),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('frame_stack', 4),
             ('learning_rate', 'lin_2.5e-4'),
             ('n_envs', 8),
             ('n_epochs', 4),
             ('n_steps', 128),
             ('n_timesteps', 10000000.0),
             ('policy', 'CnnPolicy'),
             ('vf_coef', 0.5),
             ('normalize', False)])