Fairseq Dense 125M
这是对Artetxe等人论文中125M参数密集模型的Hugging Face transformers兼容版本转换
下载量 27
发布时间 : 3/2/2022
模型简介
该模型是基于Artetxe等人论文《Efficient Large Scale Language Modeling with Mixtures of Experts》中原生密集125M参数模型的转换版本,适用于大规模语言建模任务。
模型特点
大规模语言建模
专注于高效的大规模语言建模任务
Hugging Face兼容
已转换为与Hugging Face transformers兼容的版本
密集参数结构
采用密集参数结构而非混合专家(MoE)架构
模型能力
文本生成
语言理解
使用案例
自然语言处理
开放大语言模型评估
在HuggingFace开放大语言模型排行榜上进行评估
平均得分26.0,在多个基准测试中表现
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98