Finetuned

🚀 BibliBERT

このモデルは、dbmdz/bert-base-italian-xxl-cased をNoneデータセットでファインチューニングしたバージョンです。評価セットでは、以下の結果を達成しています。

• 損失: 0.7784

🚀 クイックスタート

このモデルは、dbmdz/bert-base-italian-xxl-cased をNoneデータセットでファインチューニングして得られました。

🔧 技術詳細

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• learning_rate: 2e-05
• train_batch_size: 8
• eval_batch_size: 8
• seed: 0
• optimizer: Adam (betas=(0.9,0.999), epsilon=1e-08)
• lr_scheduler_type: linear
• num_epochs: 50

学習結果

フレームワークバージョン

• Transformers 4.10.3
• Pytorch 1.9.0+cu102
• Datasets 1.12.1
• Tokenizers 0.10.3