Git Base Pokemon

🚀 git-base-pokemon

このモデルは、microsoft/git-base を imagefolder データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 0.0429
• Wer スコア: 1.9591

🚀 クイックスタート

このモデルは、特定の画像データセットに対して微調整されたもので、特定のタスクに使用できます。

🔧 技術詳細

トレーニングのハイパーパラメータ

トレーニング中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 5e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• num_epochs: 50
• mixed_precision_training: Native AMP

トレーニング結果

フレームワークのバージョン

• Transformers 4.28.0
• Pytorch 2.0.0+cu118
• Datasets 2.11.0
• Tokenizers 0.13.3

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。