Gpt2 Question Answering Squad2

🚀 GPT2问答模型使用示例

本项目展示了如何使用预训练的GPT2模型进行问答任务，通过简单的代码示例，让你快速了解模型的使用方法。

🚀 快速开始

代码示例

tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")
outputs = model.generate(input_ids)
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

输出结果

运行上述代码，预期输出如下：

Generated: There are two apples on the counter. Q: How many apples? A: two

💻 使用示例

基础用法

# 加载分词器和模型
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

# 编码输入文本
input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")

# 生成输出
outputs = model.generate(input_ids)

# 解码输出结果
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

高级用法

在实际应用中，你可以根据需要调整模型的生成参数，例如设置生成的最大长度、温度等，以获得更好的生成效果。以下是一个高级用法的示例：

# 加载分词器和模型
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained("danyaljj/gpt2_question_answering_squad2")

# 编码输入文本
input_ids = tokenizer.encode("There are two apples on the counter. Q: How many apples? A:", return_tensors="pt")

# 设置生成参数
outputs = model.generate(
    input_ids,
    max_length=100,  # 生成的最大长度
    temperature=0.7,  # 温度参数，控制生成的随机性
    num_beams=5,  # 束搜索的束数
    early_stopping=True  # 提前停止生成
)

# 解码输出结果
print("Generated:", tokenizer.decode(outputs[0], skip_special_tokens=True))

通过调整这些参数，你可以根据具体任务的需求，灵活控制模型的生成行为。