LFM2 1.2B GGUF
模型简介
LFM2是一个高效的语言模型,专为边缘计算和设备端AI应用优化,支持多种语言,适用于资源受限环境下的高性能推理。
模型特点
边缘计算优化
专为边缘AI和设备端部署设计,在资源受限环境下保持高性能
高效内存利用
采用GGUF格式,优化内存使用效率,适合设备端运行
多语言支持
支持8种主要语言的文本生成和理解
模型能力
文本生成
多语言理解
设备端推理
边缘计算
使用案例
边缘AI应用
移动设备聊天助手
在智能手机等移动设备上部署高效的聊天助手
低延迟响应,高效内存使用
物联网设备智能交互
在资源受限的物联网设备上实现自然语言交互功能
小内存占用,实时响应
多语言应用
多语言内容生成
为不同语言的用户生成定制化内容
支持8种语言的流畅生成
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98