U

Umt5 Xl

由google開發
基於mC4多語種語料庫預訓練的多語言文本生成模型,支持107種語言
下載量 1,049
發布時間 : 7/2/2023

模型概述

UMT5是谷歌研發的多語言T5模型變體,採用UniMax採樣方法優化語言分佈平衡,適用於跨語言文本生成和理解任務。需微調後使用。

模型特點

UniMax採樣技術
通過限制語料重複次數實現更公平的語言分佈,提升尾部語言表現
大規模多語言支持
覆蓋107種語言,包括低資源語言如苗語、夏威夷語等
改進版mC4語料庫
基於29萬億字符的多語言清洗數據訓練

模型能力

多語言文本生成
跨語言遷移學習
文本理解
機器翻譯基礎模型

使用案例

自然語言處理
多語言文本摘要
支持百餘種語言的文本摘要生成
低資源語言處理
對非洲、東南亞等低資源語言提供基礎支持
教育科技
語言學習工具
可作為多語言學習應用的底層引擎
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase