Qwen2.5 3B Blog Key Points

🚀 Qwen2.5-3B-blog-key-points

本模型基于 Qwen/Qwen2.5-3B-Instruct 在 ncls-p/blog-key-points 数据集上进行微调。它专门用于从博客文章和网页内容中提取关键点，能够提供简洁的要点式摘要，精准捕捉关键信息。

✨ 主要特性

• 基于Qwen2.5架构，拥有30亿参数，专为文章关键点提取任务进行微调。
• 能够处理完整文章，生成简洁的要点式摘要，突出最重要的信息。

📦 安装指南

文档未提及安装步骤，故跳过此章节。

💻 使用示例

基础用法

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "ncls-p/Qwen2.5-3B-blog-key-points"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

article = """
[Your article text here]
"""

prompt = f"""
Extract the key points from the following article:

{article}
"""

inputs = tokenizer(prompt, return_tensors="pt")
outputs = model.generate(**inputs, max_length=1024)
response = tokenizer.decode(outputs[0], skip_special_tokens=True)

print(response)

📚 详细文档

模型详情

用途

直接使用

本模型专为从文章中提取关键点而设计，可直接用于以下场景：

• 总结博客文章
• 从新闻文章中提取重要信息
• 为长篇内容创建要点式摘要
• 生成研究论文的简洁概述

训练

本模型在 blog-key-points 数据集 上进行微调，该数据集包含200个文章 - 摘要对。每对由一篇完整文章和使用人工智能提取的要点式摘要组成。

训练过程

• 微调框架：Unsloth
• 训练数据格式：

{
    "instruction": "",
    "input": "Full article content",
    "output": "Here are the key points of the article:\n* Key point 1\n* Key point 2\n* Key point 3\n..."
}

评估

对模型在训练期间未见过的文章中提取相关关键点的能力进行了评估。评估指标主要关注以下方面：

1. 相关性：提取的要点对文章主要观点的捕捉程度。
2. 简洁性：以清晰的要点式格式总结信息的能力。
3. 完整性：摘要是否涵盖了所有重要信息。

局限性和偏差

• 模型可能继承训练数据中存在的偏差，包括源文章或关键点提取过程中可能存在的偏差。
• 性能可能因输入文章的长度、复杂度和领域而异。
• 该模型主要在英语内容上进行训练，对其他语言的内容可能表现不佳。
• 与任何摘要模型一样，存在遗漏重要信息或歪曲原文内容的风险。

引用方式

如果您在研究中使用了此模型，请按以下格式引用：

@misc{qwen25-3b-blog-key-points,
  author = {ncls-p},
  title = {Qwen2.5-3B-blog-key-points},
  year = {2024},
  publisher = {Hugging Face},
  journal = {Hugging Face model repository},
  howpublished = {\url{https://huggingface.co/ncls-p/Qwen2.5-3B-blog-key-points}},
}

数据集创建

用于训练此模型的数据集是使用 llm-to-blog-key-points-dataset 创建的，这是一个命令行工具，可使用人工智能从网页文章中提取关键点，并以结构化格式添加到数据集中。

📄 许可证

本模型使用 CC-BY-4.0 许可证。