T5 Podcast Summarisation

🚀 T5による自動ポッドキャスト要約

このモデルは、Spotify Podcast Dataset で t5-base をファインチューニングした結果です。 このモデルは、C4データセット で事前学習された GoogleのT5 をベースにしています。

論文: Exploring the Limits of Transfer Learning with a Unified Text-to-Text Transformer 著者: Colin Raffel, Noam Shazeer, Adam Roberts, Katherine Lee, Sharan Narang, Michael Matena, Yanqi Zhou, Wei Li, Peter J. Liu

✨ 主な機能

このモデルは、自動ポッドキャスト要約に使用することを目的としています。トレーニングにはクリエイターが提供した説明が使用されたため、モデルは要約に宣伝材料（リンク、ハッシュタグなど）を生成することも学習しています。そのため、モデルの出力には何らかの後処理が必要になる場合があります。

もしColabで使用する場合、トランスクリプトのトークン数が7000を超えるとインスタンスがクラッシュします。ポッドキャストのトランスクリプトをトークン数を減らすために切り捨てても、モデルは妥当な要約を生成することがわかりました。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import pipeline

summarizer = pipeline("summarization", model="paulowoicho/t5-podcast-summarisation", tokenizer="paulowoicho/t5-podcast-summarisation")
summary = summarizer(podcast_transcript, min_length=5, max_length=20)

print(summary[0]['summary_text'])

📚 ドキュメント

トレーニングデータ

このモデルは、Spotify Podcast Dataset で t5-base をファインチューニングした結果です。ファインチューニングの前に、前処理 が元のデータに対して行われました。

トレーニング手順

トレーニングは主に、Abhishek Kumar Mishra による Fine-tune T5 for Summarization に基づいて行われました。

📄 ライセンス

このREADMEにはライセンス情報が記載されていません。詳細については、元のリポジトリを参照してください。