Meetingscript

🚀 會議腳本模型

這是一個基於BigBird - Pegasus架構的模型，針對會議記錄摘要任務在MeetingBank數據集上進行了微調，能夠將長會議記錄轉化為簡潔連貫的摘要。

🚀 快速開始

模型文件

• 權重與配置文件：pytorch_model.bin，config.json
• 分詞器文件：tokenizer.json，tokenizer_config.json，merges.txt，special_tokens_map.json
• 生成默認配置文件：generation_config.json

模型鏈接

模型倉庫

✨ 主要特性

• 基於預訓練模型：該模型基於 google/bigbird-pegasus-large-bigpatent 構建。
• 特定數據集微調：在 MeetingBank 數據集上進行微調，該數據集包含會議記錄及其人工編寫的摘要。
• 處理長文本：能夠處理長達 4096 個標記的會議記錄，並生成簡潔連貫的摘要。

📚 詳細文檔

評估結果

在 MeetingBank 數據集的預留測試集（約 600 條記錄）上進行評估，使用束搜索（4 個束，最大長度 = 600）：

訓練數據

• 數據集：MeetingBank
• 數據劃分：訓練集（5000 +），驗證集（600 +），測試集（600 +）
• 預處理：對於長度超過 4096 個標記的序列，採用滑動窗口分塊處理。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch

# 1) 從模型倉庫加載
tokenizer = AutoTokenizer.from_pretrained("Shaelois/MeetingScript")
model = AutoModelForSeq2SeqLM.from_pretrained("Shaelois/MeetingScript")

# 2) 對長會議記錄進行摘要
transcript = """
    Alice: Good morning everyone, let’s get started…
    Bob: I updated the design mockups…
    … (thousands of words) …
"""
inputs = tokenizer(
    transcript,
    max_length=4096,
    truncation=True,
    return_tensors="pt"
).to("cuda")

summary_ids = model.generate(
    **inputs,
    num_beams=4,
    max_length=150,
    early_stopping=True
)
summary = tokenizer.decode(summary_ids[0], skip_special_tokens=True)
print("📝 Summary:", summary)

📄 許可證

本模型使用 Apache - 2.0 許可證。