Blip Gqa Ft

🚀 blip - gqa - ft

本項目基於預訓練模型開發，blip - gqa - ft 模型是 [Salesforce/blip2 - opt - 2.7b](https://huggingface.co/Salesforce/blip2 - opt - 2.7b) 在未知數據集上的微調版本，可用於圖像相關的問答任務，為圖像理解和問答提供了更精準的解決方案。

🚀 快速開始

文檔未提供快速開始相關內容，你可根據模型的特性和依賴，在合適的環境中加載使用該模型。

✨ 主要特性

文檔未提供模型的主要特性相關內容，推測該模型繼承了預訓練模型的部分特性，且在微調數據集上有更好的表現。

📦 安裝指南

文檔未提供安裝步驟相關內容，你可能需要安裝 transformers、pytorch、datasets、tokenizers 等庫，版本參考如下：

• Transformers 4.51.3
• Pytorch 2.5.1+cu121
• Datasets 3.5.0
• Tokenizers 0.21.1

💻 使用示例

文檔未提供使用示例代碼，你可以參考以下通用代碼來加載模型：

from transformers import AutoModel

model = AutoModel.from_pretrained('your_model_path')

📚 詳細文檔

模型描述

本模型是 [Salesforce/blip2 - opt - 2.7b](https://huggingface.co/Salesforce/blip2 - opt - 2.7b) 在未知數據集上的微調版本，更多信息待補充。

預期用途和限制

更多信息待補充。

訓練和評估數據

更多信息待補充。

訓練過程

訓練超參數

訓練過程中使用了以下超參數：

• 學習率（learning_rate）：5e - 05
• 訓練批次大小（train_batch_size）：16
• 評估批次大小（eval_batch_size）：8
• 隨機種子（seed）：42
• 梯度累積步數（gradient_accumulation_steps）：4
• 總訓練批次大小（total_train_batch_size）：64
• 優化器（optimizer）：使用 OptimizerNames.ADAMW_TORCH，其中 betas = (0.9, 0.999)，epsilon = 1e - 08，無額外優化器參數
• 學習率調度器類型（lr_scheduler_type）：線性
• 訓練輪數（num_epochs）：20
• 混合精度訓練（mixed_precision_training）：Native AMP

訓練結果

文檔未提供訓練結果相關內容。

框架版本

• Transformers 4.51.3
• Pytorch 2.5.1+cu121
• Datasets 3.5.0
• Tokenizers 0.21.1

📄 許可證

本項目採用 MIT 許可證。