Reward Model Deberta V3 Base

🚀 人間のフィードバックから学習した報酬モデル

質問が与えられた場合に、人間がどの生成された回答がより良いと判断するかを予測するように学習された報酬モデル（RM）です。

RMは以下の分野で役立ちます：

• QAモデルの評価
• RLHFにおける報酬スコアとしての利用

すべてのモデルは、これらのデータセットで、データセット間で同じ分割シード（検証分割が利用できない場合）で学習されています。

• webgpt_comparisons
• summarize_from_feedback
• synthetic-instruct-gptj-pairwise

🚀 クイックスタート

使い方

from transformers import AutoModelForSequenceClassification, AutoTokenizer
reward_name = "OpenAssistant/reward-model-deberta-v3-base"
rank_model, tokenizer = AutoModelForSequenceClassification.from_pretrained(reward_name), AutoTokenizer.from_pretrained(reward_name)
question, answer = "Explain nuclear fusion like I am five", "Nuclear fusion is the process by which two or more protons and neutrons combine to form a single nucleus. It is a very important process in the universe, as it is the source of energy for stars and galaxies. Nuclear fusion is also a key process in the production of energy for nuclear power plants."
inputs = tokenizer(question, answer, return_tensors='pt')
score = rank_model(**inputs).logits[0].cpu().detach()
print(score)

📚 ドキュメント

性能

検証分割の正解率

SytheticGPTは、選択された回答と拒否された回答のペアに何らかの表面的なパターンがあり、良い回答を区別するのが容易になっている可能性があります。

📄 ライセンス

このプロジェクトはMITライセンスの下で提供されています。