Ragas Critic Llm Qwen1.5 GPTQ

🚀 Ragas批評模型

Ragas批評模型可作為ragas合成測試數據生成的一部分，用於替代GPT - 4作為批評模型。若想了解更多相關信息，請訪問ragas。

🚀 快速開始

立即試用

from langchain_community.llms import VLLM

llm = VLLM(
    model="explodinggradients/Ragas-critic-llm-Qwen1.5-GPTQ",
    trust_remote_code=True,  # mandatory for hf models
    max_new_tokens=512,
    top_k=10,
    top_p=0.95,
    temperature=0.0,)

template = "<|im_start|>user\n{}<|im_end|>\n<|im_start|>assistant\n"
input_text = """"""

simple_instruction = template.format(input_text)

llm.invoke(simple_instruction)

從文檔生成合成問答對

可使用此處的筆記本進行操作。

📄 許可證

本項目採用Apache - 2.0許可證。