Ppo CartPole V1

🚀 PPOエージェントによるCartPole-v1のプレイ

このモデルは、stable-baselines3ライブラリとRL Zooを使用して、CartPole-v1をプレイするように学習されたPPOエージェントです。

RL Zooは、Stable Baselines3の強化学習エージェント用のトレーニングフレームワークで、ハイパーパラメータの最適化と事前学習済みエージェントが含まれています。

🚀 クイックスタート

📦 インストール

RL Zoo（SB3とSB3-Contribを含む）をインストールします。

pip install rl_zoo3

💻 使用例

基本的な使用法

以下のコマンドを実行して、モデルをダウンロードしてlogs/フォルダに保存し、そのモデルを使用してエージェントを実行します。

# モデルをダウンロードしてlogs/フォルダに保存
python -m rl_zoo3.load_from_hub --algo ppo --env CartPole-v1 -orga sb3 -f logs/
python -m rl_zoo3.enjoy --algo ppo --env CartPole-v1  -f logs/

もしpip install rl_zoo3でRL Zoo3をインストールした場合、どこからでも以下のコマンドを実行できます。

python -m rl_zoo3.load_from_hub --algo ppo --env CartPole-v1 -orga sb3 -f logs/
python -m rl_zoo3.enjoy --algo ppo --env CartPole-v1  -f logs/

🔧 トレーニング

以下のコマンドを使用して、エージェントをトレーニングし、モデルをアップロードしてビデオを生成（可能な場合）します。

python -m rl_zoo3.train --algo ppo --env CartPole-v1 -f logs/
# モデルをアップロードしてビデオを生成（可能な場合）
python -m rl_zoo3.push_to_hub --algo ppo --env CartPole-v1 -f logs/ -orga sb3

🔧 技術詳細

ハイパーパラメータ

OrderedDict([('batch_size', 256),
             ('clip_range', 'lin_0.2'),
             ('ent_coef', 0.0),
             ('gae_lambda', 0.8),
             ('gamma', 0.98),
             ('learning_rate', 'lin_0.001'),
             ('n_envs', 8),
             ('n_epochs', 20),
             ('n_steps', 32),
             ('n_timesteps', 100000.0),
             ('policy', 'MlpPolicy'),
             ('normalize', False)])

環境引数

{'render_mode': 'rgb_array'}

📄 モデル情報