Byt5 Base
ByT5是谷歌T5的无分词器版本,直接处理UTF-8字节序列,支持多语言文本处理,对噪声数据具有鲁棒性。
下载量 24.17k
发布时间 : 3/2/2022
模型简介
ByT5是一种无需分词的预训练语言模型,直接处理原始字节序列,适用于多语言文本生成和理解任务。
模型特点
无分词处理
直接处理UTF-8字节序列,无需依赖分词器,减少预处理复杂性。
多语言支持
原生支持超过100种语言,可立即处理任何语言的文本。
噪声鲁棒性
在噪声文本数据上表现优异,如拼写错误和非标准文本。
统一架构
基于标准Transformer架构,仅需最小修改即可处理字节序列。
模型能力
多语言文本生成
文本理解
机器翻译
文本摘要
使用案例
自然语言处理
多语言文本生成
生成不同语言的连贯文本
在TweetQA等任务上优于分词模型
噪声文本处理
处理包含拼写错误或非标准文本
对噪声数据具有更强鲁棒性
精选推荐AI模型
Llama 3 Typhoon V1.5x 8b Instruct
专为泰语设计的80亿参数指令模型,性能媲美GPT-3.5-turbo,优化了应用场景、检索增强生成、受限生成和推理任务
大型语言模型
Transformers 支持多种语言

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型,专为边缘设备推理设计,体积仅为Cosmo-3B模型的2%左右。
对话系统
Transformers 英语

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
基于RoBERTa架构的中文抽取式问答模型,适用于从给定文本中提取答案的任务。
问答系统 中文
R
uer
2,694
98