FRED T5 XL Instructor

🚀 Den4ikAI/FRED-T5-XL_instructor

這是一個基於FRED - T5 - XL的指令模型，可用於文本到文本的生成任務。

🚀 快速開始

此模型可用於文本生成任務，能根據給定的指令生成相應的文本。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch
use_cuda = torch.cuda.is_available()
device = torch.device("cuda" if use_cuda else "cpu")
tokenizer = AutoTokenizer.from_pretrained("Den4ikAI/FRED-T5-XL_instructor")
model = AutoModelForSeq2SeqLM.from_pretrained("Den4ikAI/FRED-T5-XL_instructor", torch_dtype=torch.float16).to(device)
model.eval()

from transformers import GenerationConfig

generation_config = GenerationConfig.from_pretrained("Den4ikAI/FRED-T5-XL_instructor")
def generate(prompt):
  data = tokenizer(f"<SC6>Человек: {prompt}\nБот: <extra_id_0>", return_tensors="pt").to(model.device)
  output_ids = model.generate(
      **data,
      generation_config=generation_config
  )[0]
  out = tokenizer.decode(output_ids.tolist())
  return out

while 1:
  print(generate(input(":> ")))

📄 許可證

本項目採用MIT許可證。

📚 引用

如果您使用了本項目，請按照以下格式進行引用：

@MISC{Den4ikAI/FRED-T5-XL_instructor,
    author  = {Denis Petrov},
    title   = {Russian Instructor Model},
    url     = {https://huggingface.co/Den4ikAI/FRED-T5-XL_instructor/},
    year    = 2023
}