Vit GPT2 Image Captioning

🚀 ViT - GPT2

本模型是基於motheecreator/ViT - GPT2 - Image_Captioning_model在未知數據集上微調得到的版本。它在評估集上取得了以下結果：

• 損失值：2.125337
• Rouge2精確率：無
• Rouge2召回率：無
• Rouge2 F值：0.155
• 藍斯分數（Bleu）：9.7054

🚀 快速開始

此模型可用於圖像描述生成任務，你可以基於此模型在相關數據集上進行微調或直接使用其進行推理。

✨ 主要特性

• 基於預訓練的motheecreator/ViT - GPT2 - Image_Captioning_model，具有良好的泛化能力。
• 在評估集上有一定的藍斯分數（Bleu）表現，可用於圖像到文本的轉換任務。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：5e - 05
• 訓練批次大小：32
• 評估批次大小：32
• 隨機種子：42
• 梯度累積步數：8
• 總訓練批次大小：256
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：線性
• 訓練輪數：2
• 混合精度訓練：原生自動混合精度（Native AMP）

訓練結果

框架版本

• Transformers 4.44.2
• Pytorch 2.4.0
• Datasets 3.0.0
• Tokenizers 0.19.1

📄 許可證

文檔中未提及許可證相關信息。

⚠️ 重要提示

本模型卡片是根據訓練器可獲取的信息自動生成的，你可能需要校對並完善它。