M

Molmo 7B D Bnb 4bit

由 cyan2k 开发
Molmo-7B-D是一个经过BnB 4bit量化的大语言模型,模型体积从30GB减小到7GB,显存需求降低至约12GB。
下载量 1,994
发布时间 : 9/26/2024

模型简介

Molmo-7B-D是一个高效的大语言模型,通过4bit量化技术显著减小模型体积和显存需求,适合资源受限的环境部署。

模型特点

4bit量化
通过BnB 4bit量化技术,将模型体积从30GB压缩至7GB。
低显存需求
量化后仅需约12GB的VRAM即可运行,降低了硬件门槛。

模型能力

文本生成

使用案例

文本处理
文本生成
可用于生成各种类型的文本内容。
未提供
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase