Self Biorag 7b Olaph

🚀 selfbiorag-7b-wo-kqa_golden-iter-dpo-step4-filtered

本模型是基于HuggingFace MedLFQA（不含kqa_golden）数据集，对 Minbyul/selfbiorag-7b-wo-kqa_golden-iter-dpo-step3-filtered 进行微调后的版本。该模型在评估集上取得了以下结果：

• 损失值：0.6766
• 选中样本奖励：-0.0828
• 拒绝样本奖励：-0.1144
• 奖励准确率：0.6319
• 奖励差距：0.0316
• 拒绝样本对数概率：-98.9601
• 选中样本对数概率：-79.1920
• 拒绝样本对数几率：-1.2073
• 选中样本对数几率：-1.1930

📚 详细文档

训练过程

训练超参数

训练过程中使用了以下超参数：

框架版本

• Transformers 4.39.0.dev0
• Pytorch 2.1.2
• Datasets 2.14.6
• Tokenizers 0.15.2