ファインチューニング済みBARTオープンソーステキスト要約モデル - CNN/DailyMailを基にファインチューニングし、効率的にテキストの要点を抽出

ホーム

Finetuned Bart

Mousumiによって開発

BARTアーキテクチャに基づくシーケンス・ツー・シーケンスモデルで、CNN/DailyMailデータセットで微調整されており、テキスト要約タスクに適しています。

大規模言語モデル

Transformers

#ニュース要約生成 #中国語テキスト処理 #微調整BARTモデル

ダウンロード数 19

リリース時間 : 3/2/2022

モデル概要

このモデルはBARTアーキテクチャに基づくシーケンス・ツー・シーケンスモデルで、CNN/DailyMailデータセットで微調整されており、主にテキスト要約タスクに使用されます。長文を簡潔な要約に圧縮できます。

モデル特徴

シーケンス・ツー・シーケンスモデリング

入力シーケンスを処理し出力シーケンスを生成でき、テキスト要約などのタスクに適しています。

双方向エンコーダ

双方向エンコーダと自己回帰デコーダを組み合わせており、コンテキストをよりよく理解できます。

微調整最適化

CNN/DailyMailデータセットで微調整されており、テキスト要約タスク向けに最適化されています。

モデル能力

テキスト要約

シーケンス生成

テキスト圧縮

使用事例

ニュース要約

ニュース記事の要約

長いニュース記事を簡潔な要約に圧縮し、重要な情報を保持します。

高品質なニュース要約を生成し、迅速な閲覧に適しています。

コンテンツ生成

テキストの書き換え

長いテキストをより簡潔なバージョンに書き換え、核心内容を保持します。

簡潔で情報豊富なテキストバージョンを生成します。

🚀 ファインチューニング済みBARTモデル

BARTモデルはCNN/DailyMailデータセット（サンプルサイズ10000）でファインチューニングされています。

🚀 クイックスタート

このセクションでは、ファインチューニング済みのBARTモデルを使用する方法を説明します。

💻 使用例

基本的な使用法

# オリジナルのコードとコメントを保持
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
import torch


src_text = [" PG&E stated it scheduled the blackouts in response to forecasts for high winds amid dry conditions. The aim is to reduce the risk of wildfires. Nearly 800 thousand customers were scheduled to be affected by the shutoffs which were expected to last through at least midday tomorrow.", "In the end, it played out like a movie. A tense, heartbreaking story, and then a surprise twist at the end. As eight of Mary Jane Veloso's fellow death row inmates -- mostly foreigners, like her -- were put to death by firing squad early Wednesday in a wooded grove on the Indonesian island of Nusa Kambangan, the Filipina maid and mother of two was spared, at least for now. Her family was returning from what they thought was their final visit to the prison on so-called \"execution island\" when a Philippine TV crew flagged their bus down to tell them of the decision to postpone her execution. Her ecstatic mother, Celia Veloso, told CNN: \"We are so happy, so happy. I thought I had lost my daughter already but God is so good. Thank you to everyone who helped us."]

torch_device = 'cuda' if torch.cuda.is_available() else 'cpu'

tokenizer = AutoTokenizer.from_pretrained("Mousumi/finetuned_bart")

model = AutoModelForSeq2SeqLM.from_pretrained("Mousumi/finetuned_bart").to(torch_device)

no_samples = len(src_text)
result = []

for i in range(no_samples):
    with tokenizer.as_target_tokenizer():
        tokenized_text = tokenizer([src_text[i]], return_tensors='pt', padding=True, truncation=True)
    batch = tokenized_text.to(torch_device)
    translated = model.generate(**batch)
    tgt_text = tokenizer.batch_decode(translated, skip_special_tokens=True)
    result.append(tgt_text[0])

print(result)