M

Mrt5 Small

由 stanfordnlp 开发
MrT5是ByT5的高效改进版本,通过动态令牌合并技术缩短输入序列长度,提升处理效率。
下载量 65
发布时间 : 3/23/2025

模型简介

MrT5是基于ByT5的改进模型,通过引入动态令牌删除机制,在编码器中缩短序列长度,同时保留关键信息,适用于多语言序列到序列任务。

模型特点

动态令牌合并
通过删除门机制动态缩短输入序列长度,提升处理效率。
多语言支持
支持15种类型学多样语言的处理。
高效改进
在ByT5基础上仅增加3000个参数实现删除门机制。

模型能力

多语言文本生成
序列到序列转换
字节级处理

使用案例

学术研究
语言模型效率研究
研究动态令牌合并技术对语言模型效率的影响。
文本处理
多语言文本摘要
对多语言文本进行摘要生成。
AIbase
智启未来,您的人工智能解决方案智库
© 2025AIbase