๐ IT5 Base for Wikipedia Summarization ๐ ๐ฎ๐น
This repository holds the checkpoint for the IT5 Base model. It's fine - tuned for Wikipedia summarization on the WITS dataset. This is part of the experiments in the paper IT5: Large - scale Text - to - text Pretraining for Italian Language Understanding and Generation by Gabriele Sarti and Malvina Nissim.
A full overview of other released materials can be found in the gsarti/it5 repository. Check the paper for more details about the reported scores and the evaluation approach.
โจ Features
- Multilingual Support: Supports Italian language for Wikipedia summarization tasks.
- Multiple Metrics Evaluation: Evaluated using metrics like ROUGE and BERTScore.
- Carbon Footprint Information: Provides information about COโ equivalent emissions during training.
๐ฆ Installation
No installation steps were provided in the original README, so this section is skipped.
๐ป Usage Examples
Basic Usage
from transformers import pipelines
hg = pipeline("text2text-generation", model='it5/it5-base-wiki-summarization')
hg("Le dimensioni dell'isola sono di 8 km di lunghezza e di 3,2 km di larghezza. Si trova a 1,6 km a sud-est dell'isola di Renaud, dalla quale รจ separata dal passaggio Rodman. La sua altezza รจ di 100 m. Fu scoperta dall'esploratore e baleniere britannico John Biscoe nel 1832 e venne mappata durante una spedizione antartica francese realizzata nel primo decennio del XX secolo. Al comando della spedizione era Jean-Baptiste Charcot e il nome fu scelto per onorare l'esploratore e geografo francese Charles Rabot. === Rivendicazioni territoriali === * Secondo l'Argentina appartiene al dipartimento dell'Antartide Argentina nella provincia della Terra del Fuoco. * Secondo il Cile appartiene al comune antartico della provincia cilena antartica nella regione di Magallanes e dell'Antartico cileno. * Secondo il Regno Unito fa parte del territorio antartico britannico. Per il Trattato Antartico tali rivendicazioni sono sospese. Sull'isola รจ presente il rifugio Guillochon, sito storico antartico. ")
๐ Documentation
Model Information
- Model Name: it5-base-wiki-summarization
- Task: Wikipedia Summarization
- Dataset: WITS
Metrics
| Property |
Details |
| Model Type |
it5-base-wiki-summarization |
| Training Data |
WITS |
| Metrics |
ROUGE1 (0.369), ROUGE2 (0.217), ROUGEL (0.333), BERTScore (0.530) |
Carbon Footprint
- Emissions: 17g
- Source: Google Cloud Platform Carbon Footprint
- Training Type: Fine - tuning
- Geographical Location: Eemshaven, Netherlands, Europe
- Hardware Used: 1 TPU v3 - 8 VM
๐ License
The model is released under the Apache - 2.0 license.
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Transformers