Summarisation Model

🚀 文本摘要T5模型

这是一个基于T5架构微调的模型，专门用于文本摘要任务，能有效处理对话和会话的摘要生成，基于SAMSum数据集训练，具备高效的内存使用效率。

🚀 快速开始

使用以下代码来开启模型的使用：

from transformers import AutoModelForSeq2SeqLM, AutoTokenizer

# Define model name (same as uploaded one)
model_name = "Saravanankumaran/summarisation_model"

# Load model and tokenizer from Hugging Face Hub
model = AutoModelForSeq2SeqLM.from_pretrained(model_name)
tokenizer = AutoTokenizer.from_pretrained(model_name)

print("Model loaded successfully! ✅")

# Below is the example text to use the model

text = """
Laxmi Kant: what work you planning to give Tom?
Juli: i was hoping to send him on a business trip first.
Laxmi Kant: cool. is there any suitable work for him?
Juli: he did excellent in last quarter. i will assign new project, once he is back.
"""
inputs = tokenizer(text, return_tensors="pt")

output = model.generate(**inputs)
summary = tokenizer.decode(output[0], skip_special_tokens=True)

print("Generated Output:", summary)

✨ 主要特性

• 基于T5架构微调，专为文本摘要任务设计。
• 使用SAMSum数据集进行训练，对对话和会话的摘要生成效果较好。
• 采用🤗 Transformers和Hugging Face Trainer进行训练，并使用混合精度（fp16）优化内存效率。

📚 详细文档

模型详情

模型描述

这是一个使用SAMSum数据集进行微调的T5文本摘要模型。该模型使用🤗 Transformers和Hugging Face Trainer进行训练，并采用混合精度（fp16）以优化内存效率。

• 开发者：Saravanan K
• 微调基础模型：t5-base

模型来源

• 代码仓库：https://github.com/SARAVANANVIJAY123/DL-Assessment/blob/main/DL-L%26D%20CODE.ipynb

使用场景

直接使用

该模型可用于文本摘要任务，尤其适用于对话和会话的摘要生成。

下游使用

该模型可以在其他摘要数据集上进一步微调，或用于需要摘要功能的大型NLP应用程序。

适用范围外的使用

该模型在非对话类文本或非英语语言上的表现可能不佳。

偏差、风险和局限性

• 偏差：由于该模型在SAMSum数据集上进行训练，可能存在与英语对话数据相关的偏差。
• 局限性：在与训练数据集有显著差异的文本上，模型性能可能会下降。

🔧 技术细节

该模型基于T5架构，使用SAMSum数据集进行训练。训练过程中采用了🤗 Transformers和Hugging Face Trainer，并使用混合精度（fp16）以优化内存效率。在使用时，通过AutoModelForSeq2SeqLM和AutoTokenizer从Hugging Face Hub加载模型和分词器。

📄 许可证

文档中未提及许可证相关信息。