Lacia_sum_small_v1-GGUF开源模型 - 免费部署实现俄英文本摘要生成

Lacia Sum Small V1 GGUF

Developed by mradermacher

Lacia_sum_small_v1 是一个基于 T5 架构的静态量化模型，主要用于文本摘要生成任务。支持俄语和英语，适用于自然语言处理领域。

Downloads 312

Release Time : 2/10/2025

Model Overview

该模型是一个经过静态量化的文本摘要生成模型，基于 T5 架构，适用于俄语和英语的文本摘要任务。

多语言支持

支持俄语和英语的文本摘要生成。

静态量化

提供多种量化版本，适用于不同硬件环境和性能需求。

高效推理

经过优化的量化模型，提供快速的推理速度。

文本摘要生成

自然语言处理

多语言支持

内容摘要

新闻摘要

自动生成新闻文章的简短摘要。

文档摘要

从长文档中提取关键信息生成摘要。

本项目是对2KKLabs/Lacia_sum_small_v1模型的量化版本，提供了多种量化类型的文件，可用于文本摘要等自然语言处理任务。

如果你不确定如何使用GGUF文件，请参考TheBloke的README以获取更多详细信息，包括如何拼接多部分文件。

属性	详情
基础模型	2KKLabs/Lacia_sum_small_v1
支持语言	俄语、英语
库名称	transformers
许可证	cc - by - nc - 4.0
量化者	mradermacher
标签	摘要、自然语言处理、文本摘要、机器学习、深度学习、Transformer、人工智能、文本分析、序列到序列、PyTorch、TensorFlow、safetensors、T5

本项目是对https://huggingface.co/2KKLabs/Lacia_sum_small_v1的静态量化。目前，加权/矩阵量化文件似乎不可用。如果在静态量化文件发布大约一周后它们仍未出现，可能我没有计划提供这些文件。你可以通过开启社区讨论来请求这些文件。

（按大小排序，不一定按质量排序。IQ量化通常比类似大小的非IQ量化更优）

链接	类型	大小/GB	备注
GGUF	Q2_K	0.2
GGUF	Q3_K_S	0.2
GGUF	Q3_K_M	0.2	质量较低
GGUF	Q3_K_L	0.2
GGUF	IQ4_XS	0.2
GGUF	Q4_K_S	0.2	快速，推荐
GGUF	Q4_K_M	0.2	快速，推荐
GGUF	Q5_K_S	0.3
GGUF	Q5_K_M	0.3
GGUF	Q6_K	0.3	质量非常好
GGUF	Q8_0	0.3	快速，质量最佳
GGUF	f16	0.5	16 bpw，过度配置