Pegasus Finetuned Samsum

🚀 飞马微调版Samsum模型

本模型基于Transformer架构，是在Samsum数据集上对google/pegasus-cnn_dailymail进行微调后的版本，可用于抽象对话摘要，能处理多轮对话并生成简洁摘要。

🚀 快速开始

代码示例

from transformers import pipeline

# 加载摘要生成管道
model_name = "avanishd/pegasus-finetuned-samsum/"
summarizer = pipeline("summarization", model=model_name, tokenizer=model_name)

# 示例对话
dialogue = """
John: Hey, are you free tomorrow?
Alice: I think so, why?
John: Want to catch a movie or grab lunch?
Alice: Sure, lunch sounds good. What time?
John: Let's say 1 PM at the new place downtown?
Alice: Works for me!
"""

# 生成摘要
summary = summarizer(dialogue, max_length=60, min_length=15, do_sample=False)[0]['summary_text']

print("Summary:", summary)

✨ 主要特性

• 该模型在SOTA文本摘要Papers with Code SAMsum排行榜上截至2025年4月8日排名第10。
• 专为抽象对话摘要设计，能够处理多轮对话并生成简洁摘要。

📦 安装指南

文档未提供具体安装步骤，可参考transformers库的官方安装说明进行安装。

💻 使用示例

基础用法

from transformers import pipeline

# 加载摘要生成管道
model_name = "avanishd/pegasus-finetuned-samsum/"
summarizer = pipeline("summarization", model=model_name, tokenizer=model_name)

# 示例对话
dialogue = """
John: Hey, are you free tomorrow?
Alice: I think so, why?
John: Want to catch a movie or grab lunch?
Alice: Sure, lunch sounds good. What time?
John: Let's say 1 PM at the new place downtown?
Alice: Works for me!
"""

# 生成摘要
summary = summarizer(dialogue, max_length=60, min_length=15, do_sample=False)[0]['summary_text']

print("Summary:", summary)

📚 详细文档

评估集结果

该模型在评估集上取得了以下结果：

• 损失值: 1.4245
• Rouge-1: 0.4403
• Rouge-2: 0.2102
• Rouge-L: 0.3491
• Rouge-Lsum: 0.3493

训练和评估数据

文档未提供详细信息。

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率: 5e-05
• 训练批次大小: 1
• 评估批次大小: 1
• 随机种子: 42
• 梯度累积步数: 16
• 总训练批次大小: 16
• 优化器: 使用OptimizerNames.ADAMW_TORCH，betas=(0.9, 0.999)，epsilon=1e-08，无额外优化器参数
• 学习率调度器类型: 线性
• 学习率调度器热身步数: 500
• 训练轮数: 1
• 混合精度训练: 原生自动混合精度（Native AMP）

训练结果

框架版本

• Transformers 4.50.3
• Pytorch 2.6.0+cu124
• Datasets 3.5.0
• Tokenizers 0.21.1

🔧 技术细节

该模型是在Samsum数据集上对google/pegasus-cnn_dailymail进行微调得到的。微调过程中使用了特定的超参数和优化器，以提高模型在对话摘要任务上的性能。

📄 许可证

文档未提供相关许可证信息。