Distilbert Base Uncased Finetuned Squad

🚀 distilbert-base-uncased-finetuned-squad

このモデルは、squadデータセットでdistilbert-base-uncasedをファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。

• 損失: 1.2052

🚀 クイックスタート

このモデルは、squadデータセットに基づいてdistilbert-base-uncasedをファインチューニングしたもので、特定のタスクに対して最適化されています。

🔧 技術詳細

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

• 学習率: 2e-05
• 学習バッチサイズ: 16
• 評価バッチサイズ: 16
• シード: 42
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラの種類: 線形
• エポック数: 1

学習結果

フレームワークのバージョン

• Transformers 4.15.0
• Pytorch 1.10.0+cu111
• Datasets 1.17.0
• Tokenizers 0.10.3

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。