Dqn BreakoutNoFrameskip V4

🚀 Stable - Baselines3のDQNエージェントによるBreakoutNoFrameskip - v4のプレイ

このプロジェクトでは、[stable - baselines3ライブラリ](https://github.com/DLR - RM/stable - baselines3) と [RL Zoo](https://github.com/DLR - RM/rl - baselines3 - zoo) を用いて、BreakoutNoFrameskip - v4 をプレイする DQN エージェントを学習させたモデルを提供しています。RL Zooは、Stable Baselines3の強化学習エージェントの学習フレームワークで、ハイパーパラメータ最適化と事前学習済みエージェントが含まれています。

🚀 クイックスタート

モデルのダウンロードと実行

RL Zoo: https://github.com/DLR - RM/rl - baselines3 - zoo
SB3: https://github.com/DLR - RM/stable - baselines3
SB3 Contrib: https://github.com/Stable - Baselines - Team/stable - baselines3 - contrib

# モデルをダウンロードしてlogs/フォルダに保存
python -m rl_zoo3.load_from_hub --algo dqn --env BreakoutNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo dqn --env BreakoutNoFrameskip-v4  -f logs/

モデルの学習

python train.py --algo dqn --env BreakoutNoFrameskip-v4 -f logs/
# モデルをアップロードし、可能であれば動画を生成
python -m rl_zoo3.push_to_hub --algo dqn --env BreakoutNoFrameskip-v4 -f logs/ -orga sb3

💻 使用例

基本的な使用法

# モデルのダウンロードと実行
# Download model and save it into the logs/ folder
python -m rl_zoo3.load_from_hub --algo dqn --env BreakoutNoFrameskip-v4 -orga sb3 -f logs/
python enjoy.py --algo dqn --env BreakoutNoFrameskip-v4  -f logs/

高度な使用法

# モデルの学習とアップロード
# Train the model and upload it
python train.py --algo dqn --env BreakoutNoFrameskip-v4 -f logs/
# Upload the model and generate video (when possible)
python -m rl_zoo3.push_to_hub --algo dqn --env BreakoutNoFrameskip-v4 -f logs/ -orga sb3

🔧 技術詳細

モデルのメトリクス

ハイパーパラメータ

OrderedDict([('batch_size', 32),
             ('buffer_size', 10000),
             ('env_wrapper',
              ['stable_baselines3.common.atari_wrappers.AtariWrapper']),
             ('exploration_final_eps', 0.01),
             ('exploration_fraction', 0.1),
             ('frame_stack', 4),
             ('gradient_steps', 1),
             ('learning_rate', 0.0001),
             ('learning_starts', 100000),
             ('n_timesteps', 10000000.0),
             ('optimize_memory_usage', True),
             ('policy', 'CnnPolicy'),
             ('target_update_interval', 1000),
             ('train_freq', 4),
             ('normalize', False)])