Reward Model Deberta V3 Large

🚀 人間のフィードバックから学習した報酬モデル

質問が与えられたときに、人間がどの生成された回答がより良いと判断するかを予測するように学習された報酬モデル（RM）です。

RMは以下の分野で役立ちます：

• 質問応答（QA）モデルの評価
• 強化学習による人間のフィードバック（RLHF）における報酬スコアとしての利用

すべてのモデルは、これらのデータセットで、データセット間で同じ分割シードを使用して学習されています（検証分割が利用できない場合）。

• webgpt_comparisons
• summarize_from_feedback
• synthetic-instruct-gptj-pairwise

🚀 クイックスタート

この報酬モデルは、質問に対する生成された回答の質を予測するために使用できます。以下に、具体的な使用方法を説明します。

💻 使用例

基本的な使用法

from transformers import AutoModelForSequenceClassification, AutoTokenizer
reward_name = "OpenAssistant/reward-model-deberta-v3-large"
rank_model, tokenizer = AutoModelForSequenceClassification.from_pretrained(reward_name), AutoTokenizer.from_pretrained(reward_name)
question, answer = "Explain nuclear fusion like I am five", "Nuclear fusion is the process by which two or more protons and neutrons combine to form a single nucleus. It is a very important process in the universe, as it is the source of energy for stars and galaxies. Nuclear fusion is also a key process in the production of energy for nuclear power plants."
inputs = tokenizer(question, answer, return_tensors='pt')
score = rank_model(**inputs).logits[0].cpu().detach()
print(score)

📚 詳細ドキュメント

性能

検証分割の正解率

SytheticGPTでは、選択された回答と拒否された回答のペアに何らかの表面的なパターンがあり、回答の良し悪しを区別するのが容易になっている可能性があります。

データセットとメトリクス

ライセンス

このプロジェクトはMITライセンスの下で提供されています。