Rut5 Small Chitchat

🚀 俄語對話微調模型：cointegrated/rut5-small-chitchat

這是一個基於 cointegrated/rut5-small 模型在部分俄語對話數據上微調得到的版本。它雖不算特別智能和富有創造力，但勝在小巧快速，可作為某些聊天機器人的備用回覆生成器，也能進一步微調以模仿特定風格。

🚀 快速開始

該模型以 '\n\n' 分隔的先前對話語句作為輸入，輸出則是下一輪的回覆語句。

✨ 主要特性

• 輕量快速：模型規模小，運行速度快。
• 可擴展性：既可以作為聊天機器人的備用回覆生成方案，也能通過進一步微調來模仿特定風格。

📦 安裝指南

在使用模型前，你需要安裝必要的庫：

!pip install transformers sentencepiece

💻 使用示例

基礎用法

import torch
from transformers import T5ForConditionalGeneration, T5Tokenizer

tokenizer = T5Tokenizer.from_pretrained("cointegrated/rut5-small-chitchat")
model = T5ForConditionalGeneration.from_pretrained("cointegrated/rut5-small-chitchat")

text = 'Привет! Расскажи, как твои дела?'
inputs = tokenizer(text, return_tensors='pt')
with torch.no_grad():
    hypotheses = model.generate(
        **inputs, 
        do_sample=True, top_p=0.5, num_return_sequences=3, 
        repetition_penalty=2.5,
        max_length=32,
    )
for h in hypotheses:
    print(tokenizer.decode(h, skip_special_tokens=True))
# Как обычно.
# Сейчас - в порядке.
# Хорошо.
# Wall time: 363 ms 

📄 許可證

本項目採用 MIT 許可證。