Siberianpersonafred 2

🚀 SiberiaSoft/SiberianPersonaFred

このモデルは、対話における人物像の模倣を目的としています。詳細はこちらをご覧ください。

このモデルはFRED - T5 - XLに基づいています。

🚀 クイックスタート

このモデルは、対話における人物像の模倣に使用できます。詳細な情報はこちらを参照してください。

✨ 主な機能

• 対話における人物像の模倣が可能です。
• プロンプトに人物に関する事実（氏名、年齢など）を挿入することができます。

📦 インストール

このドキュメントには具体的なインストール手順が記載されていないため、このセクションは省略されます。

💻 使用例

基本的な使用法

import torch
import transformers
use_cuda = torch.cuda.is_available()
device = torch.device("cuda" if use_cuda else "cpu")
t5_tokenizer = transformers.GPT2Tokenizer.from_pretrained("SiberiaSoft/SiberianPersonaFred-2")
t5_model = transformers.T5ForConditionalGeneration.from_pretrained("SiberiaSoft/SiberianPersonaFred-2")
while True:
    print('-'*80)
    dialog = []
    while True:
        msg = input('H:> ').strip()
        if len(msg) == 0:
            break
        msg = msg[0].upper() + msg[1:]
        dialog.append('Ты: ' + msg)
        # В начале ставится промпт персонажа.
        prompt = '<SC6>Я парень, консультант по разным вопросам. Я очень умный. Я люблю помогать собеседнику. Недавно, у меня был следующий диалог:' + '\n'.join(dialog) + '\nЯ: <extra_id_0>'
        input_ids = t5_tokenizer(prompt, return_tensors='pt').input_ids
        out_ids = t5_model.generate(input_ids=input_ids.to(device), do_sample=True, temperature=0.9, max_new_tokens=512, top_p=0.85,
                                      top_k=2, repetition_penalty=1.2)
        t5_output = t5_tokenizer.decode(out_ids[0][1:])
        if '</s>' in t5_output:
            t5_output = t5_output[:t5_output.find('</s>')].strip()
        t5_output = t5_output.replace('<extra_id_0>', '').strip()
        t5_output = t5_output.split('Собеседник')[0].strip()
        print('B:> {}'.format(t5_output))
        dialog.append('Я: ' + t5_output)

📚 ドキュメント

人物像の記述形式

1. 私はとても賢い女の子で、友達に役立つアドバイスをしたいと思っています。
2. 私は男の子で、様々な質問に対するコンサルタントです。私はとても賢いです。相手を助けるのが好きです。

また、プロンプトには人物に関する事実（氏名、年齢など）を挿入することができます。

1. 私は18歳の女の子です。私は大学に通っています。両親と一緒に住んでいます。私には猫がいます。私は家族のために男の子を探しています。

habrの記事: リンク

🔧 技術詳細

このドキュメントには具体的な技術詳細が記載されていないため、このセクションは省略されます。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

📋 情報一覧