Gpt2 Question Answering Squad2

🚀 GPT2問答模型使用示例

本項目展示瞭如何使用預訓練的GPT2模型進行問答任務，通過簡單的代碼示例，讓你快速瞭解模型的使用方法。

🚀 快速開始

代碼示例

tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")
outputs = model.generate(input_ids)
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

輸出結果

運行上述代碼，預期輸出如下：

Generated: There are two apples on the counter. Q: How many apples? A: two

💻 使用示例

基礎用法

# 加載分詞器和模型
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

# 編碼輸入文本
input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")

# 生成輸出
outputs = model.generate(input_ids)

# 解碼輸出結果
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

高級用法

在實際應用中，你可以根據需要調整模型的生成參數，例如設置生成的最大長度、溫度等，以獲得更好的生成效果。以下是一個高級用法的示例：

# 加載分詞器和模型
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

# 編碼輸入文本
input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")

# 設置生成參數
outputs = model.generate(
    input_ids,
    max_length=100,  # 生成的最大長度
    temperature=0.7,  # 溫度參數，控制生成的隨機性
    num_beams=5,  # 束搜索的束數
    early_stopping=True  # 提前停止生成
)

# 解碼輸出結果
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

通過調整這些參數，你可以根據具體任務的需求，靈活控制模型的生成行為。