Backward Cosmos Gpt2 V1

🚀 バックワードGPT - 2モデル

GPT - 2モデルをトルコ語での逆生成（回答 → 質問）にファインチューニングしたものです。

🚀 クイックスタート

入力形式

### Response:
[トルコ語の回答テキスト]

出力形式

生成されたテキストを反転させる必要があり、以下の形式になります。

### Instruction:
[トルコ語の指示テキスト]
### Input:
[オプションのトルコ語の入力テキスト]

生成パラメータ

• Temperature: 1.4
• Top - p: 0.95
• Top - k: 20
• Repetition penalty: 1.5
• EOSトークンID: [36320, eos_token_id]

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForCausalLM
import torch

tokenizer = AutoTokenizer.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1", trust_remote_code=True)
tokenizer.pad_token = tokenizer.eos_token
model = AutoModelForCausalLM.from_pretrained("ytu-ce-cosmos/backward-cosmos-gpt2-v1")

# Turkish answer
answer = "İstanbul, Türkiye'nin en kalabalık şehridir ve tarihi, kültürel zenginliği ile ünlüdür."
prompt = f"\n### Response:\n{answer}"
inputs = tokenizer(prompt, return_tensors="pt")

outputs = model.generate(
    **inputs,
    max_new_tokens=40,
    temperature=1.4,
    top_p=0.95,
    top_k=20,
    repetition_penalty=1.5,
    eos_token_id=[36320, tokenizer.eos_token_id],
    pad_token_id=tokenizer.eos_token_id
)

generated_tokens = outputs[0][inputs.input_ids.shape[1]:]
reversed_tokens = generated_tokens.flip(dims=[0])
generated_text = tokenizer.decode(reversed_tokens, skip_special_tokens=True)

parts = generated_text.split("### Input:")
instruction = parts[0].replace("### Instruction:", "").strip()
input_text = parts[1].strip() if len(parts) > 1 else None