Rudialogpt Small

🚀 この生成モデル

この生成モデルは、sberbank-ai/rugpt3small_based_on_gpt2 をベースに構築されています。大量の対話データセットで訓練されており、生成型会話エージェントの構築に使用できます。

✨ 主な機能

• 大規模な対話データセットで訓練されているため、自然な会話生成が可能です。
• コンテキストサイズ3で訓練されており、文脈を考慮した応答を生成できます。

📦 インストール

このモデルはHugging Faceのライブラリを使用しています。以下のようにインストールできます。

pip install transformers torch

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer, AutoModelWithLMHead

tokenizer = AutoTokenizer.from_pretrained('tinkoff-ai/ruDialoGPT-small')
model = AutoModelWithLMHead.from_pretrained('tinkoff-ai/ruDialoGPT-small')
inputs = tokenizer('@@ПЕРВЫЙ@@ привет @@ВТОРОЙ@@ привет @@ПЕРВЫЙ@@ как дела? @@ВТОРОЙ@@', return_tensors='pt')
generated_token_ids = model.generate(
    **inputs,
    top_k=10,
    top_p=0.95,
    num_beams=3,
    num_return_sequences=3,
    do_sample=True,
    no_repeat_ngram_size=2,
    temperature=1.2,
    repetition_penalty=1.2,
    length_penalty=1.0,
    eos_token_id=50257,
    max_new_tokens=40
)
context_with_response = [tokenizer.decode(sample_token_ids) for sample_token_ids in generated_token_ids]
context_with_response

📚 ドキュメント

評価指標

このモデルは、この論文 で導入された指標を使用して評価されています。

• Sensibleness: モデルの応答が文脈に沿っているかどうかを評価します。
• Specificity: モデルの応答が文脈に特化しているかどうかを評価します。
• SSA: 上記の2つの指標の平均値です。

📄 ライセンス

このモデルはMITライセンスの下で公開されています。