Meetingscript

🚀 会议脚本模型

这是一个基于BigBird - Pegasus架构的模型，针对会议记录摘要任务在MeetingBank数据集上进行了微调，能够将长会议记录转化为简洁连贯的摘要。

🚀 快速开始

模型文件

• 权重与配置文件：pytorch_model.bin，config.json
• 分词器文件：tokenizer.json，tokenizer_config.json，merges.txt，special_tokens_map.json
• 生成默认配置文件：generation_config.json

模型链接

模型仓库

✨ 主要特性

• 基于预训练模型：该模型基于 google/bigbird-pegasus-large-bigpatent 构建。
• 特定数据集微调：在 MeetingBank 数据集上进行微调，该数据集包含会议记录及其人工编写的摘要。
• 处理长文本：能够处理长达 4096 个标记的会议记录，并生成简洁连贯的摘要。

📚 详细文档

评估结果

在 MeetingBank 数据集的预留测试集（约 600 条记录）上进行评估，使用束搜索（4 个束，最大长度 = 600）：

训练数据

• 数据集：MeetingBank
• 数据划分：训练集（5000 +），验证集（600 +），测试集（600 +）
• 预处理：对于长度超过 4096 个标记的序列，采用滑动窗口分块处理。

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch

# 1) 从模型仓库加载
tokenizer = AutoTokenizer.from_pretrained("Shaelois/MeetingScript")
model = AutoModelForSeq2SeqLM.from_pretrained("Shaelois/MeetingScript")

# 2) 对长会议记录进行摘要
transcript = """
    Alice: Good morning everyone, let’s get started…
    Bob: I updated the design mockups…
    … (thousands of words) …
"""
inputs = tokenizer(
    transcript,
    max_length=4096,
    truncation=True,
    return_tensors="pt"
).to("cuda")

summary_ids = model.generate(
    **inputs,
    num_beams=4,
    max_length=150,
    early_stopping=True
)
summary = tokenizer.decode(summary_ids[0], skip_special_tokens=True)
print("📝 Summary:", summary)

📄 许可证

本模型使用 Apache - 2.0 许可证。