Bart Large Finetuned Filtered Spotify Podcast Summ

🚀 bart-large-finetuned-filtered-spotify-podcast-summ

このモデルは、facebook/bart-large-cnn を Spotify Podcast Dataset でファインチューニングしたバージョンです。このプロジェクトの GitHubリポジトリ もご覧ください。

トレーニング中に以下の結果を達成しています：

• トレーニング損失: 2.2967
• 検証損失: 2.8316
• エポック数: 2

🚀 クイックスタート

このモデルは、ポッドキャストの自動要約に使用できます。ポッドキャストのトランスクリプトを入力として与えると、ユーザーがポッドキャストを聴くかどうかを決定する際に読むことができる短いテキスト要約を提供します。要約は、ポッドキャストの内容を正確に伝え、人間が読みやすく、スマートフォンの画面ですぐに読める程度に短くする必要があります。

✨ 主な機能

• ポッドキャストの自動要約機能を提供します。
• トレーニングに使用されるデータセットは、Spotify Podcast Datasetです。
• 抽出型モジュールを使用して、トランスクリプトから重要なチャンクを選択し、それを抽象型要約器の入力として使用します。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます：

pip install transformers

💻 使用例

基本的な使用法

from transformers import pipeline
summarizer = pipeline("summarization", model="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ", tokenizer="gmurro/bart-large-finetuned-filtered-spotify-podcast-summ")
summary = summarizer(podcast_transcript, min_length=39, max_length=250)
print(summary[0]['summary_text'])

📚 ドキュメント

トレーニングハイパーパラメータ

トレーニング中に使用されたハイパーパラメータは以下の通りです：

optimizer: {'name': 'AdamWeightDecay', 'learning_rate': 2e-05, 'decay': 0.0, 'beta_1': 0.9, 'beta_2': 0.999, 'epsilon': 1e-07, 'amsgrad': False, 'weight_decay_rate': 0.01}

- ```python
training_precision: float32

トレーニング結果

フレームワークバージョン

• Transformers 4.19.4
• TensorFlow 2.9.1
• Datasets 2.3.1
• Tokenizers 0.12.1

🔧 技術詳細

このモデルのトレーニングでは、抽出型モジュールを開発してトランスクリプトから重要なチャンクを選択し、それを抽象型要約器の入力として使用しています。また、クリエイターが提供した説明に対して広範な前処理を行い、トレーニング用の教師付きモデルに適したコーパスのサブセットを選択しています。

フィルタリングされたデータセットは、69,336/7,705エピソードのトレーニング/開発セットに分割されています。テストセットは1,027エピソードで構成されていますが、そのうち2つにエピソードの説明が含まれていなかったため、実際には1,025エピソードのみが使用されています。

📄 ライセンス

このモデルは、MITライセンスの下で公開されています。

作者