Chatharuhi RolePlaying Qwen 7b

🚀 チャットハルヒ・スズミヤ Qwen 7B ロールプレイングモデル

このスクリプトはQwen 7Bモデルを微調整し、テストすることで、Qwen 7Bにロールプレイングの能力を付与します。

🚀 クイックスタート

このプロジェクトはQwen 7Bモデルを微調整し、ロールプレイングの能力を付与するためのものです。以下に使用方法を説明します。

📦 インストール

本プロジェクトでは、事前学習済みのモデルとトークナイザーを使用します。以下のコードでモデルとトークナイザーをロードできます。

from transformers import AutoTokenizer, AutoModel, AutoModelForCausalLM
tokenizer = AutoTokenizer.from_pretrained("silk-road/ChatHaruhi_RolePlaying_qwen_7b", trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained("silk-road/ChatHaruhi_RolePlaying_qwen_7b", device_map="auto", trust_remote_code=True)
model = model.eval()

💻 使用例

基本的な使用法

具体的な使用例は、このノートブックを参照してください：ChatHaruhi_x_Qwen7B.ipynb

from ChatHaruhi import ChatHaruhi

chatbot = ChatHaruhi( role_name = 'haruhi', max_len_story = 1000 )

prompt = chatbot.generate_prompt(role='阿虚', text = '我看新一年的棒球比赛要开始了！我们要去参加吗？')

response, history = model.chat(tokenizer, prompt, history=[])
print(response)

chatbot.append_response(response)

サポートされているロール形式

現在、以下のロール形式がサポートされています。

• role_name
• role_from_hf
• role_from_jsonl

📚 ドキュメント

• プロジェクトのリンク: https://github.com/LC1332/Chat-Haruhi-Suzumiya
• ハリー・ポッターのテスト: Harry_Potter_test_on_Qwen7B.ipynb

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で公開されています。

👥 関連貢献者

• 118Kの訓練データは李鲁鲁によって収集されました。
• モデルは豆角によって訓練されました。
• Qwenの推論コードは米唯实によって書かれ、Chatharuhiに組み込まれています。現在、このモデルのメンテナンスとバグ解決を行っています。
• 李鲁鲁はChatHaruhi内部のプロンプト組織関数を書きました。