S

Smollm 135M 4bit

由 mlx-community 开发
这是一个4位量化的135M参数小型语言模型,适用于资源受限环境下的文本生成任务。
下载量 312
发布时间 : 7/16/2024

模型简介

该模型是从HuggingFaceTB/SmolLM-135M转换而来的4位量化版本,主要用于高效的文本生成。

模型特点

4位量化
模型经过4位量化处理,显著减少内存占用和计算资源需求
轻量级
135M参数的规模使其适合在资源受限的环境中运行
高效推理
专为MLX框架优化,在Apple芯片上提供高效推理性能

模型能力

英文文本生成
对话系统
内容创作

使用案例

资源受限环境应用
移动端应用
在移动设备上部署轻量级文本生成功能
边缘计算
在边缘设备上实现本地化语言处理
开发与测试
原型开发
快速构建语言模型应用原型
教学与研究
用于教学和研究中的小型语言模型实验
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase