Bert2bert Shared German Finetuned Summarization

🚀 德國BERT2BERT在MLSUM DE數據集上微調用於文本摘要

本模型是在MLSUM DE數據集上對德國BERT2BERT進行微調，用於文本摘要任務。它基於德語預訓練模型，能有效處理德語新聞等文本的摘要生成。

🚀 快速開始

代碼示例

import torch
from transformers import BertTokenizerFast, EncoderDecoderModel
device = 'cuda' if torch.cuda.is_available() else 'cpu'
ckpt = 'mrm8488/bert2bert_shared-german-finetuned-summarization'
tokenizer = BertTokenizerFast.from_pretrained(ckpt)
model = EncoderDecoderModel.from_pretrained(ckpt).to(device)

def generate_summary(text):
    inputs = tokenizer([text], padding="max_length", truncation=True, max_length=512, return_tensors="pt")
    input_ids = inputs.input_ids.to(device)
    attention_mask = inputs.attention_mask.to(device)
    output = model.generate(input_ids, attention_mask=attention_mask)
    return tokenizer.decode(output[0], skip_special_tokens=True)

text = "Your text here..."

generate_summary(text)

✨ 主要特性

• 基於德語預訓練模型：使用 bert-base-german-cased 作為基礎模型，能更好地理解德語語義。
• 在大規模多語言數據集上微調：在 MLSUM 數據集上進行微調，該數據集包含超過150萬篇文章及其摘要，涵蓋多種語言，其中包括德語。

📦 安裝指南

文檔未提及具體安裝步驟，可參考 transformers 庫的官方安裝說明進行安裝。

📚 詳細文檔

模型

本模型基於 bert-base-german-cased 進行微調，用於德語文本摘要任務。

數據集

MLSUM 是第一個大規模多語言摘要數據集，從在線報紙獲取，包含超過150萬篇文章及其摘要，涵蓋五種不同語言，即法語、德語、西班牙語、俄語和土耳其語。該數據集與流行的 CNN/Daily mail 英語報紙數據集一起，構成了一個大規模的多語言數據集，為文本摘要社區帶來了新的研究方向。 MLSUM de

結果

📄 許可證

文檔未提及許可證信息。

💡 使用提示

本模型由 Manuel Romero/@mrm8488 在 Narrativa 的支持下創建，在西班牙完成開發。