Bart Large Finetuned Filtered Spotify Podcast Summ

🚀 bart-large-finetuned-filtered-spotify-podcast-summ

这个模型是 facebook/bart-large-cnn 在 Spotify Podcast Dataset 上的微调版本。查看此项目的 GitHub 仓库。

模型信息

训练结果

在训练过程中，该模型取得了以下结果：

• 训练损失：2.2967
• 验证损失：2.8316
• 训练轮数：2

🚀 快速开始

本模型旨在用于自动播客摘要生成。给定播客文字稿作为输入，目标是提供一个简短的文本摘要，供用户在决定是否收听播客时阅读。摘要应准确传达播客内容，具有良好的可读性，并且足够简短以便在智能手机屏幕上快速阅读。

✨ 主要特性

• 自动摘要生成：能够根据播客文字稿生成简短且准确的摘要。
• 微调优化：基于 facebook/bart-large-cnn 进行微调，更适合播客摘要任务。

📦 安装指南

本模型依赖于 transformers 库，可使用以下命令安装：

pip install transformers

💻 使用示例

基础用法

from transformers import pipeline
summarizer = pipeline("summarization", model="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ", tokenizer="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ")
summary = summarizer(podcast_transcript, min_length=39, max_length=250)
print(summary[0]['summary_text'])

训练超参数

训练过程中使用了以下超参数：

optimizer: {'name': 'AdamWeightDecay', 'learning_rate': 2e-05, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-07, 'amsgrad': False, 'weight_decay_rate': 0.01}

training_precision: float32

训练结果

框架版本

• Transformers 4.19.4
• TensorFlow 2.9.1
• Datasets 2.3.1
• Tokenizers 0.12.1

📚 详细文档

预期用途和限制

本模型旨在用于自动播客摘要生成。给定播客文字稿作为输入，目标是提供一个简短的文本摘要，供用户在决定是否收听播客时阅读。摘要应准确传达播客内容，具有良好的可读性，并且足够简短以便在智能手机屏幕上快速阅读。

训练和评估数据

在我们的解决方案中，开发了一个抽取式模块，用于从文字稿中选择重要的片段，作为抽象式摘要器的输入。 对创作者提供的描述进行了广泛的预处理，选择了适合训练监督模型的语料库子集。

我们将过滤后的数据集划分为训练集/开发集，分别包含 69,336/7,705 个片段。 测试集包含 1,027 个片段。由于其中两个片段没有包含描述，因此仅使用了 1025 个。

🔧 技术细节

在我们的解决方案中，开发了一个抽取式模块，用于从文字稿中选择重要的片段，作为抽象式摘要器的输入。对创作者提供的描述进行了广泛的预处理，选择了适合训练监督模型的语料库子集。

📄 许可证

本项目采用 MIT 许可证。