Backward Cosmos Gpt2 V1

🚀 反向GPT - 2模型

反向GPT - 2模型是一個針對土耳其語進行反向生成（答案 → 問題）微調的GPT - 2模型，能夠根據給定的答案生成對應的問題。

🚀 快速開始

輸入格式

輸入需按照以下格式提供土耳其語答案：

### Response:
[土耳其語答案文本]

輸出格式

生成的文本需要反轉後才能得到以下格式：

### Instruction:
[土耳其語指令文本]
### Input:
[可選的土耳其語輸入文本]

生成參數

• 溫度（Temperature）：1.4
• 核採樣概率（Top - p）：0.95
• 前k採樣（Top - k）：20
• 重複懲罰（Repetition penalty）：1.5
• 結束符標記ID（EOS token IDs）：[36320, eos_token_id]

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

tokenizer = AutoTokenizer.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1", trust_remote_code=True)
tokenizer.pad_token = tokenizer.eos_token
model = AutoModelForCausalLM.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1")

# 土耳其語答案
answer = "İstanbul, Türkiye'nin en kalabalık şehridir ve tarihi, kültürel zenginliği ile ünlüdür."
prompt = f"\n### Response:\n{answer}"
inputs = tokenizer(prompt, return_tensors="pt")

outputs = model.generate(
    **inputs,
    max_new_tokens=40,
    temperature=1.4,
    top_p=0.95,
    top_k=20,
    repetition_penalty=1.5,
    eos_token_id=[36320, tokenizer.eos_token_id],
    pad_token_id=tokenizer.eos_token_id
)

generated_tokens = outputs[0][inputs.input_ids.shape[1]:]
reversed_tokens = generated_tokens.flip(dims=[0])
generated_text = tokenizer.decode(reversed_tokens, skip_special_tokens=True)

parts = generated_text.split("### Input:")
instruction = parts[0].replace("### Instruction:", "").strip()
input_text = parts[1].strip() if len(parts) > 1 else None