# RLHF獎勵模型

基於Mistral-7B訓練的獎勵模型，用於強化學習人類反饋(RLHF)場景中的響應質量評估

基於google/gemma-2b-it訓練的獎勵模型，用於評估文本生成質量

普羅米修斯2是基於Mistral-Instruct的語言模型，專為細粒度評估和人類反饋強化學習設計，可作為GPT-4評估的替代方案。

基於Anthropic/hh-rlhf幫助性數據集訓練的GPT2大模型，專用於幫助性響應檢測或RLHF（基於人類反饋的強化學習）。

普羅米修斯是基於Llama-2-Chat微調的評估型語言模型，擅長根據定製標準評估文本質量，可作為GPT-4評估的經濟替代方案。

基於LMFlow框架訓練的獎勵模型，針對HH - RLHF數據集（僅有用部分），以open_llama_3b為基礎模型進行訓練，具有良好的泛化能力。

ToxicityModel是基於RoBERTa微調的模型，用於評估英語句子的毒性程度。