It5 Base News Summarization

🚀 IT5 Base for News Summarization ✂️🗞️ 🇮🇹

This repository offers the checkpoint for the IT5 Base model. This model has been fine - tuned for news summarization on the Fanpage and Il Post corpora. It's part of the experiments in the paper IT5: Large - scale Text - to - text Pretraining for Italian Language Understanding and Generation by Gabriele Sarti and Malvina Nissim.

The gsarti/it5 repository provides a comprehensive overview of other released materials. For more details about the reported scores and the evaluation approach, refer to the paper.

🚀 Quick Start

✨ Features

• Multilingual Support: Focuses on Italian news summarization, leveraging the IT5 Base model.
• Multiple Frameworks Compatibility: Model checkpoints are available for Tensorflow, Pytorch, and JAX.
• Easy - to - Use: Can be used directly with pipelines or loaded using autoclasses.

📦 Installation

No specific installation steps are provided in the original document.

💻 Usage Examples

Basic Usage

from transformers import pipelines

newsum = pipeline("summarization", model='it5/it5-base-news-summarization')
newsum("Dal 31 maggio è infine partita la piattaforma ITsART, a più di un anno da quando – durante il primo lockdown – il ministro della Cultura Dario Franceschini ne aveva parlato come di «una sorta di Netflix della cultura», pensata per «offrire a tutto il mondo la cultura italiana a pagamento». È presto per dare giudizi definitivi sulla piattaforma, e di certo sarà difficile farlo anche più avanti senza numeri precisi. Al momento, l’unica cosa che si può fare è guardare com’è fatto il sito, contare quanti contenuti ci sono (circa 700 “titoli”, tra film, documentari, spettacoli teatrali e musicali e altri eventi) e provare a dare un giudizio sul loro valore e sulla loro varietà. Intanto, una cosa notata da più parti è che diversi contenuti di ITsART sono a pagamento sulla piattaforma sebbene altrove, per esempio su RaiPlay, siano invece disponibili gratuitamente.")
>>> [{"generated_text": "ITsART, la Netflix della cultura italiana, parte da maggio. Film, documentari, spettacoli teatrali e musicali disponibili sul nuovo sito a pagamento."}]

Advanced Usage

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

tokenizer = AutoTokenizer.from_pretrained("it5/it5-base-news-summarization")
model = AutoModelForSeq2SeqLM.from_pretrained("it5/it5-base-news-summarization")

📚 Documentation

A comprehensive overview of other released materials is provided in the gsarti/it5 repository. Refer to the paper IT5: Large - scale Text - to - text Pretraining for Italian Language Understanding and Generation for additional details concerning the reported scores and the evaluation approach.

📄 License

The model is released under the Apache - 2.0 license.

🔧 Technical Details

No specific technical details are provided in the original document.

BibTeX Citation

If you use this model in your research, please cite our work as:

@article{sarti-nissim-2022-it5,
    title={{IT5}: Large-scale Text-to-text Pretraining for Italian Language Understanding and Generation},
    author={Sarti, Gabriele and Nissim, Malvina},
    journal={ArXiv preprint 2203.03759},
    url={https://arxiv.org/abs/2203.03759},
    year={2022},
	month={mar}
}

📋 Information Table