Mbert2mbert Arabic Text Summarization

🚀 アラビア語抽象テキスト要約モデル

このプロジェクトはBERT2BERTに基づくモデルで、そのパラメータはmBERTの重みを使って初期化され、84,764個の段落 - 要約ペアを含むデータセットで微調整されています。このモデルは、アラビア語のテキスト要約、アラビア語のニュースタイトル生成、アラビア語の言い換えなどのタスクに使用できます。

🚀 クイックスタート

このモデルはBERT2BERTアーキテクチャに基づいて構築され、そのパラメータはmBERTの重みを使って初期化され、84,764個の段落 - 要約ペアを含むデータセットで微調整されています。

論文：使用基于RNN和基于Transformer架构的阿拉伯语抽象文本摘要

データセット：リンク

💻 使用例

基本的な使用法

from transformers import BertTokenizer, AutoModelForSeq2SeqLM, pipeline
from arabert.preprocess import ArabertPreprocessor

model_name="malmarjeh/mbert2mbert-arabic-text-summarization"
preprocessor = ArabertPreprocessor(model_name="")

tokenizer = BertTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
pipeline = pipeline("text2text-generation",model=model,tokenizer=tokenizer)

text = "شهدت مدينة طرابلس، مساء أمس الأربعاء، احتجاجات شعبية وأعمال شغب لليوم الثالث على التوالي، وذلك بسبب تردي الوضع المعيشي والاقتصادي. واندلعت مواجهات عنيفة وعمليات كر وفر ما بين الجيش اللبناني والمحتجين استمرت لساعات، إثر محاولة فتح الطرقات المقطوعة، ما أدى إلى إصابة العشرات من الطرفين."
text = preprocessor.preprocess(text)

result = pipeline(text,
            pad_token_id=tokenizer.eos_token_id,
            num_beams=3,
            repetition_penalty=3.0,
            max_length=200,
            length_penalty=1.0,
            no_repeat_ngram_size = 3)[0]['generated_text']
result
>>> 'احتجاجات في طرابلس على خلفية مواجهات عنيفة بين الجيش اللبناني والمحتجين'

📚 ドキュメント

📄 お問い合わせ

何か質問がある場合は、以下のメールアドレスでお問い合わせください：banimarje@gmail.com