Summllama3.2 3B GGUF
模型简介
专注于文本摘要任务的轻量级语言模型,提供从Q2_K到Q8_0多种量化选项,平衡性能与资源消耗。
模型特点
多级量化选项
提供从Q2_K(1.36GB)到Q8_0(3.42GB)共12种量化级别,满足不同硬件条件下的部署需求
优化的提示模板
采用结构化提示模板,明确区分系统指令和用户输入,提高摘要生成准确性
轻量高效
3.2B参数规模在保持质量的同时降低计算资源需求,适合边缘设备部署
模型能力
文本摘要生成
长文本压缩
关键信息提取
使用案例
内容处理
新闻摘要
自动生成新闻文章的核心内容摘要
可保留原文90%以上关键信息
会议纪要
从会议记录中提取决策点和行动项
研究辅助
论文摘要
自动生成学术论文的简明摘要
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98