Bart Finetuned Conversational Summarization

🚀 テキスト要約モデル

このモデルは、テキスト要約タスクに特化して微調整されたFacebookのBART（Bidirectional and Auto-Regressive Transformers）アーキテクチャに基づいています。BARTは、Facebook AIによって導入されたシーケンス-to-シーケンスモデルで、要約を含む様々な自然言語処理タスクを扱うことができます。

🚀 クイックスタート

このモデルは、テキスト要約タスクに使用できます。以下のセクションでは、モデルの詳細、インストール方法、使用例などを説明します。

✨ 主な機能

• BARTアーキテクチャ：FacebookのBART Large CNNアーキテクチャをベースにしています。
• 微調整済み：テキスト要約タスクに特化して微調整されています。
• 多様なデータセット：xsum と samsum のデータセットで微調整されています。

📦 インストール

必要なライブラリをpipを使ってインストールできます。

pip install transformers

💻 使用例

基本的な使用法

以下は、このモデルをPyTorchで段落要約タスクに使用する簡単なコード例です。

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("Mr-Vicky-01/Bart-Finetuned-conversational-summarization")
model = AutoModelForSeq2SeqLM.from_pretrained("Mr-Vicky-01/Bart-Finetuned-conversational-summarization")

def generate_summary(text):
    inputs = tokenizer([text], max_length=1024, return_tensors='pt', truncation=True)
    summary_ids = model.generate(inputs['input_ids'], max_new_tokens=100, do_sample=False)
    summary = tokenizer.decode(summary_ids[0], skip_special_tokens=True)
    return summary

text_to_summarize = """Now, there is no doubt that one of the most important aspects of any Pixel phone is its camera.
And there might be good news for all camera lovers. Rumours have suggested that the Pixel 9 could come with a telephoto lens,
improving its photography capabilities even further. Google will likely continue to focus on using AI to enhance its camera performance,
in order to make sure that Pixel phones remain top contenders in the world of mobile photography."""
summary = generate_summary(text_to_summarize)

print(summary)

高度な使用法

# 訓練パラメータの設定
num_train_epochs=1,
warmup_steps = 500,
per_device_train_batch_size=4,
per_device_eval_batch_size=4,
weight_decay = 0.01,
gradient_accumulation_steps=16

📚 ドキュメント

モデル詳細

スペースリンク

Summarization Model

モデルの微調整方法

Github

📄 ライセンス

このモデルはMITライセンスの下で提供されています。