Pragmaticlm

🚀 PragmaticLM - 用于提示重构的T5模型

PragmaticLM 是一个经过微调的T5模型，旨在对用户提示进行 重构和重新表述，以便下游大语言模型（LLM）更好地理解。该模型通过利用 上下文重构 技术来提高提示的清晰度。

🚀 快速开始

模型详情

• 基础模型：T5-Base
• 训练数据：间接请求数据集
• 任务类型：文本到文本的转换
• 使用库：Hugging Face Transformers

训练配置

• 训练轮数：10
• 批次大小：8
• 学习率：编码器：1e-5，解码器：3e-5
• 优化器：AdamW
• 损失函数：交叉熵损失
• 硬件：GPU（T4）

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch

tokenizer = AutoTokenizer.from_pretrained("aliMohammad16/pragmaticLM")
model = AutoModelForSeq2SeqLM.from_pretrained("aliMohammad16/pragmaticLM")

def restructure_prompt(input_prompt):
    input_text = f"Restructure Prompt: {input_prompt}"
    inputs = tokenizer(input_text, return_tensors="pt", padding=True)
    
    output = model.generate(
        inputs.input_ids,
        max_length=64,
        num_beams=4,
        early_stopping=True
    )
    
    return tokenizer.decode(output[0], skip_special_tokens=True)

# Example Usage
test_prompt = "I am not feeeling well. I need to consult a doctor nearby."
print(restructure_prompt(test_prompt))

⏳ 后续改进

• 进行中：该项目仍在进行中，我正在积极完善这个模型。
• 更新计划：下一步，我将实现一个多模块管道，将TinyLlama 1.1B和Llama Index RAG与 提示重构 模型集成，以改进输出生成。

📄 许可证

本项目采用Apache-2.0许可证。