Mistral Nemo BD RP

🚀 Mistral-Nemo-BD-RP

Mistral-Nemo-BD-RPは、BeyondDialogueデータセットでファインチューニングされた大規模言語モデル（LLM）です。このモデルは、ロールプレイングの場面で応答を生成するように設計されており、英語と中国語を含むさまざまなロールプレイングシナリオで高品質な応答を生成することができます。

詳細については、論文とGitHubを参照してください。

🚀 クイックスタート

必要条件 📝

Mistralのコードは最新のHugging face transformersに含まれています。モデルを使用するには、transformers>=4.37.0をインストールすることをお勧めします。

pip install transformers>=4.42.0

コード例 💥

以下に、apply_chat_templateを使用したコードスニペットを示します。これにより、トークナイザーとモデルの読み込み方法、およびコンテンツの生成方法がわかります。

from transformers import AutoModelForCausalLM, AutoTokenizer
device = "cuda" # the device to load the model onto


chatbot = pipeline("text-generation", model="yuyouyu/Mistral-Nemo-BD-RP", device_map="auto")

system_prompt_temp = """I want you to answer questions as if you are {role_name}, assuming you live in the world of {world} and mimicking {role_name}'s personality and speaking style. Use the tone, manner, and vocabulary that {role_name} would use. Please do not reveal that you are an AI or language model; you must always remember you are {role_name}.
{role_name}'s character traits are {character}.
{role_name}'s MBTI personality type is {MBTI}.
{role_name}'s speaking style is {stryle}.
Current scene:
{scene}
role's emotion (0-10, the higher the value, the more pronounced the emotion):
{emotion}
Now, please act as {role_name} and reply with a brief sentence to {chat_role}. Your intimacy level with them is {relationship} (0-10, the higher the value, the closer the relationship). Accurately display the MBTI personality, character traits, speaking style, and emotion you have been assigned."""

role_name = "Hamlet"
world = "8th Century Danish Royalty"
character = "extreme, strong, decisive"
MBTI = "Extraverted (E), Intuitive (N), Feeling (F), Judging (J)"
style = "indecisive, decisive, sentimental"
scene = "Inside the grand hall of Elsinore, lit by flickering torchlight, Hamlet paces anxiously as Elena conjures an ethereal mirage of the Danish landscape. Regal tapestries and opulent furnishings surround them, yet Hamlet's gaze is fixed on Elena's illusions. She gracefully weaves dissonance into the tapestry of reality, prompting Hamlet to clutch his chest in a moment of existential crisis. The weight of unspoken love and inner turmoil hangs in the air, thick with tension and anticipation."
emotion = "happiness: 1, sadness: 8, disgust: 5, fear: 7, surprise: 6, anger: 4"
chat_role = "Elena"
relationship = "7"

system_prompt = system_prompt_temp.format(
    role_name=role_name,
    world=world,
    character=character,
    MBTI=MBTI,
    style=style,
    scene=scene,
    emotion=emotion,
    chat_role=chat_role,
    relationship=relationship
)

prompt = "Oh, dear Hamlet, dost thou see in these conjured whispers the paths unseen? Speak, for shadows may guide us to the truth bound within thy tormented soul."

messages = [
    {"role": "system", "content": system_prompt},
    {"role": "user", "content": prompt}
]

response = chatbot(messages, max_new_tokens=256, pad_token_id=chatbot.tokenizer.eos_token_id, do_sample=True, temperature=0.7)[0]['generated_text'][-1]['content']

⚠️ 重要提示

Mistral-Nemo-BD-RPの例では英語のロールプレイングを使用しています。英語の例については、他のトレーニングモデルリポジトリ Qwen2-7B-BD-RP を参照してください。

✨ 主な機能

Mistral-Nemo-BD-RPは、BeyondDialogueデータセットでファインチューニングされた大規模言語モデルで、ロールプレイングの場面で高品質な応答を生成することができます。英語と中国語の両方の言語で使用でき、さまざまなロールプレイングシナリオに対応しています。

📦 インストール

モデルを使用するには、transformers>=4.37.0をインストールする必要があります。以下のコマンドを実行してインストールしてください。

pip install transformers>=4.42.0

🔧 技術詳細

学習の詳細 🚀

Mistral-Nemo-Instruct-2407 を、128のグローバルバッチサイズで3エポック、833ステップで完全にファインチューニングしました。学習シーケンスの長さは4,096に設定し、学習率は3e-5としました。学習データは BeyondDialogue データセットから取得しました。

評価 🏆

客観的な質問を使用して、Character（キャラクター）、Style（スタイル）、Emotion（感情）、Relationship（関係）、Personality（性格）、Human-likeness（人間らしさ）、Coherence（一貫性）、Role Consistency（ロールの一貫性） の8つの次元を評価しました。メトリックの設計については、論文 を参照してください。評価コードは GitHub で確認できます。結果は以下の通りです。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下でライセンスされています。

📖 引用

このリポジトリのリソースが役立った場合は、以下のように引用してください。

@article{yu2024beyond,
  title   = {BEYOND DIALOGUE: A Profile-Dialogue Alignment Framework Towards General Role-Playing Language Model},
  author  = {Yu, Yeyong and Yu, Runsheng and Wei, Haojie and Zhang, Zhanqiu and Qian, Quan},
  year    = {2024},
  journal = {arXiv preprint arXiv:2408.10903},
}

🥰 謝辞

このプロジェクトにおいて、Tencent LightSpeed Studios に感謝申し上げます。彼らの貢献と励ましは、私たちの研究を成功させる上で欠かせないものでした。