Umt5 Xl
mC4多言語コーパスに基づく事前学習済み多言語テキスト生成モデル、107言語をサポート
ダウンロード数 1,049
リリース時間 : 7/2/2023
モデル概要
UMT5はGoogleが開発した多言語T5モデルの変種で、UniMaxサンプリング手法により言語分布のバランスを最適化し、言語間テキスト生成・理解タスクに適しています。微調整が必要です。
モデル特徴
UniMaxサンプリング技術
コーパスの繰り返し回数を制限することでより公平な言語分布を実現し、低頻度言語の性能を向上
大規模多言語サポート
ミャオ語やハワイ語などの低リソース言語を含む107言語をカバー
改良版mC4コーパス
29兆文字の多言語クリーニングデータで訓練
モデル能力
多言語テキスト生成
言語間転移学習
テキスト理解
機械翻訳基盤モデル
使用事例
自然言語処理
多言語テキスト要約
100以上の言語でテキスト要約を生成可能
低リソース言語処理
アフリカ、東南アジアなどの低リソース言語に対する基礎サポートを提供
教育技術
言語学習ツール
多言語学習アプリケーションの基盤エンジンとして利用可能
おすすめAIモデル
Llama 3 Typhoon V1.5x 8b Instruct
タイ語専用に設計された80億パラメータの命令モデルで、GPT-3.5-turboに匹敵する性能を持ち、アプリケーションシナリオ、検索拡張生成、制限付き生成、推論タスクを最適化
大規模言語モデル
Transformers 複数言語対応

L
scb10x
3,269
16
Cadet Tiny
Openrail
Cadet-TinyはSODAデータセットでトレーニングされた超小型対話モデルで、エッジデバイス推論向けに設計されており、体積はCosmo-3Bモデルの約2%です。
対話システム
Transformers 英語

C
ToddGoldfarb
2,691
6
Roberta Base Chinese Extractive Qa
RoBERTaアーキテクチャに基づく中国語抽出型QAモデルで、与えられたテキストから回答を抽出するタスクに適しています。
質問応答システム 中国語
R
uer
2,694
98