Ru Sum

🚀 SarahAI's Russian Text Summarizer

This project presents a fine - tuned version of the google/mt5 - base model, specifically designed as a Russian text summarizer. Trained on a dataset of approximately 50k samples, it aims to offer high - quality text summarization. Future updates are in the pipeline, with the goal of enhancing quality, length, and accuracy.

✨ Features

• Fine - Tuned Model: Based on the google/mt5 - base model, optimized for Russian text summarization.
• Trained on Substantial Data: Utilizes a dataset of around 50k samples for training.
• Future Improvements: Planned updates to boost performance in terms of quality, length, and accuracy.

📦 Installation

No specific installation steps are provided in the original document.

💻 Usage Examples

Basic Usage

model_name = "sarahai/ru-sum"  
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)

device = torch.device("cpu") #if you are using cpu

input_text = "текст на русском" #your input in russian
input_ids = tokenizer(input_text, return_tensors="pt").input_ids.to(device)
outputs = model.generate(input_ids, max_length=100, min_length=50, length_penalty=2.0, num_beams=4, early_stopping=True) #change according to your preferences
summary = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(summary)

📚 Documentation

Summarization Example 1

The following text is used as an example for summarization:

В понедельник в Санкт-Петербургском гарнизонном военном суде начались слушания по делу бывшего капитана ФСБ Ивана Круглова. Его обвиняют по ч. 4 статьи 111 УК РФ (умышленное причинение тяжкого вреда здоровью, повлекшее по неосторожности смерть потерпевшего). В прошлом году экс-силовик, не будучи при исполнении служебных обязанностей, застрелил из травматического пистолета случайного прохожего — жителя Петербурга Звиада Хачатуряна, который позднее скончался. В начале заседания сторона подсудимого ходатайствовала перед судом, чтобы сделать процесс полностью закрытым. Адвокат Круглова Лев Кожохин мотивировал ходатайство тем, что в качестве свидетелей привлечены несколько действующих сотрудников ФСБ, а следовательно, могут быть разглашены факты, имеющие отношение к государственной тайне. Однако судья Виталий Краснощеков удовлетворил просьбу частично: заседания будут закрытыми только при допросе сотрудников ФСБ и при обсуждении секретной информации.

📄 License

The model is licensed under the Apache - 2.0 license.

🔗 References

• Hugging Face Model Hub
• T5 Paper

⚠️ Important Note

The model's performance may be influenced by the quality and representativeness of the data it was fine - tuned on. Users are encouraged to assess the model's suitability for their specific applications and datasets.