Pragmaticlm

🚀 PragmaticLM - 用於提示重構的T5模型

PragmaticLM 是一個經過微調的T5模型，旨在對用戶提示進行 重構和重新表述，以便下游大語言模型（LLM）更好地理解。該模型通過利用 上下文重構 技術來提高提示的清晰度。

🚀 快速開始

模型詳情

• 基礎模型：T5-Base
• 訓練數據：間接請求數據集
• 任務類型：文本到文本的轉換
• 使用庫：Hugging Face Transformers

訓練配置

• 訓練輪數：10
• 批次大小：8
• 學習率：編碼器：1e-5，解碼器：3e-5
• 優化器：AdamW
• 損失函數：交叉熵損失
• 硬件：GPU（T4）

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch

tokenizer = AutoTokenizer.from_pretrained("aliMohammad16/pragmaticLM")
model = AutoModelForSeq2SeqLM.from_pretrained("aliMohammad16/pragmaticLM")

def restructure_prompt(input_prompt):
    input_text = f"Restructure Prompt: {input_prompt}"
    inputs = tokenizer(input_text, return_tensors="pt", padding=True)
    
    output = model.generate(
        inputs.input_ids,
        max_length=64,
        num_beams=4,
        early_stopping=True
    )
    
    return tokenizer.decode(output[0], skip_special_tokens=True)

# Example Usage
test_prompt = "I am not feeeling well. I need to consult a doctor nearby."
print(restructure_prompt(test_prompt))

⏳ 後續改進

• 進行中：該項目仍在進行中，我正在積極完善這個模型。
• 更新計劃：下一步，我將實現一個多模塊管道，將TinyLlama 1.1B和Llama Index RAG與 提示重構 模型集成，以改進輸出生成。

📄 許可證

本項目採用Apache-2.0許可證。