Dqn SpaceInvadersNoFrameskip V4

🚀 DQNエージェントによるSpaceInvadersNoFrameskip-v4のプレイ

このモデルは、stable-baselines3ライブラリとRL Zooを使用して、SpaceInvadersNoFrameskip-v4をプレイするように学習されたDQNエージェントです。RL Zooは、Stable Baselines3の強化学習エージェントの学習フレームワークで、ハイパーパラメータの最適化と事前学習済みエージェントが含まれています。

🚀 クイックスタート

環境情報

モデルの使用方法

RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
SB3: https://github.com/DLR-RM/stable-baselines3
SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

📦 インストール

RL Zoo（SB3およびSB3-Contrib付き）をインストールします。

pip install rl_zoo3

💻 使用例

基本的な使用法

# モデルをダウンロードしてlogs/フォルダに保存
python -m rl_zoo3.load_from_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -orga ThomasSimonini -f logs/
python -m rl_zoo3.enjoy --algo dqn --env SpaceInvadersNoFrameskip-v4  -f logs/

もしpip install rl_zoo3でRL Zoo3をインストールした場合は、どこからでも以下のコマンドを実行できます。

python -m rl_zoo3.load_from_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -orga ThomasSimonini -f logs/
python -m rl_zoo3.enjoy --algo dqn --env SpaceInvadersNoFrameskip-v4  -f logs/

学習方法

python -m rl_zoo3.train --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/
# モデルをアップロードし、可能であればビデオを生成
python -m rl_zoo3.push_to_hub --algo dqn --env SpaceInvadersNoFrameskip-v4 -f logs/ -orga ThomasSimonini

🔧 技術詳細

ハイパーパラメータ

OrderedDict([('batch_size', 32),
             ('buffer_size', 100000),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('exploration_final_eps', 0.01),
             ('exploration_fraction', 0.1),
             ('frame_stack', 4),
             ('gradient_steps', 1),
             ('learning_rate', 0.0001),
             ('learning_starts', 100000),
             ('n_timesteps', 10000000.0),
             ('optimize_memory_usage', False),
             ('policy', 'CnnPolicy'),
             ('target_update_interval', 1000),
             ('train_freq', 4),
             ('normalize', False)])

環境引数

{'render_mode': 'rgb_array'}