OTTER MPT7B Init

🚀 OTTER模型初始化權重項目

本項目提供的權重用於 初始化Otter模型的訓練，這些權重是直接從Openflamingo模型轉換而來的。

團隊成員

所屬機構

🚀 快速開始

加載並試用模型

你可以使用以下代碼加載並試用該模型：

model = OtterForConditionalGeneration.from_pretrained("luodian/OTTER-MPT7B-Init", device_map="sequential")
model.text_tokenizer.padding_side = "left"
tokenizer = model.text_tokenizer
image_processor = transformers.CLIPImageProcessor()
model.eval()

啟動Otter模型訓練

你也可以通過以下命令啟動Otter模型的訓練：

python -m accelerate.commands.launch --config_file=./pipeline/accelerate_configs/accelerate_config_fsdp.yaml \
pipeline/train/instruction_following.py \
--pretrained_model_name_or_path=luodian/OTTER-MPT7B-Init \
--mimicit_path=/data/azure_storage/otter/mimicit/xx/xx_instructions.json \
--images_path=/data/azure_storage/otter/mimicit/xx/xx.json \
--batch_size=4 --num_epochs=1 --report_to_wandb \
--wandb_entity=ntu-slab \
--external_save_dir=/data/bli/checkpoints \
--save_hf_model \
--run_name=OTTER-MPT1B \
--wandb_project=OTTER-MPT1B \
--workers=4 \
--lr_scheduler=cosine \
--learning_rate=1e-5 \
--warmup_steps_ratio=0.01

初始化視頻指令微調

如果你希望初始化視頻指令微調，你應該在文件夾內的 config.json 文件中添加以下內容：

"max_num_frames": 128

📄 許可證

本項目採用 MIT 許可證。