# 大規模コーパス訓練

北欧コーパスで訓練された多言語RoBERTa大規模モデル、スウェーデン語、ノルウェー語、デンマーク語、英語をサポート

T5アーキテクチャに基づく多言語機械翻訳モデル、400以上の言語をサポート、2500億トークンで訓練

トルコ語事前学習済みRoBERTaベースモデル、38GBのトルコ語コーパスで訓練

OPUS-MTプロジェクトが提供する英語からスペイン語へのニューラル機械翻訳モデル、transformer-bigアーキテクチャに基づく

これはTransformerアーキテクチャに基づく大規模なニューラル機械翻訳モデルで、トルコ語から英語への翻訳に特化しています。

これはリトアニア語から英語へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これはセルビア・クロアチア語（sh）から英語（en）へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは現代ギリシャ語（el）から英語（en）へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部であり、高品質な翻訳サービスを提供することを目的としています。

これはカタロニア語、オック語、スペイン語から英語への翻訳用ニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは北ゲルマン語派(gmq)から英語(en)へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは英語からイタリア語への翻訳用ニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部であり、transformer-bigアーキテクチャを採用しています。

これは英語から北ゲルマン語派（デンマーク語、フェロー語、アイスランド語、ノルウェー語ブークモール、ノルウェー語ニーノシュク、スウェーデン語を含む）へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは英語からカタロニア語、オック語、スペイン語への翻訳用ニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

これは英語からアラビア語へのニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部であり、多目的言語翻訳をサポートしています。

これはドイツ語から東スラブ語族(ベラルーシ語、ロシア語、ウクライナ語)への翻訳用ニューラル機械翻訳モデルで、OPUS-MTプロジェクトの一部です。

RoBERTa-baseアーキテクチャに基づくアイスランド語マスク言語モデルで、xlm-roberta-baseを微調整して訓練されました。

RoBERTa-baseアーキテクチャで訓練されたアイスランド語マスキング言語モデル、fairseqフレームワークを使用

AraBERTはGoogleのBERTアーキテクチャに基づくアラビア語事前学習言語モデルで、アラビア語自然言語理解タスク向けに設計されています。

GerPT2はドイツ語版GPT2の大規模バージョンで、CC - 100コーパスとドイツ語ウィキペディアを基に訓練され、ドイツ語テキスト生成タスクで優れた性能を発揮します。

plT5はT5アーキテクチャに基づき、ポーランド語用に最適化された言語モデルで、翻訳、要約生成、質問応答、読解などのタスクをサポートします。

インドネシア語mC4データセットで事前学習されたT5（テキストからテキストへの変換Transformer）ベースモデル、使用前に微調整が必要

NorBERTはノルウェー語に最適化されたBERTモデルで、オスロ大学言語技術グループによって開発されました。NorLMプロジェクトの一環として、ノルウェー語に高品質な言語モデルを提供することを目的としています。

BARThezは、BARTアーキテクチャに基づくフランス語のシーケンス-to-シーケンス事前学習モデルで、抽象要約などの生成タスクに特に適しています。

AraBERTはBERTアーキテクチャに基づくアラビア語の事前学習言語モデルで、アラビア語理解タスクに特化して最適化されています。

BARThezはBARTアーキテクチャに基づくフランス語のシーケンス・ツー・シーケンス事前学習モデルで、抽象的要約などの生成タスクに特に適しています。

タガログ語（フィリピン語）向けに開発されたRoBERTaモデルで、TLUnifiedコーパスで訓練され、フィリピン語NLPタスクをサポート

QARiBはアラビア語及び方言に基づくBERTモデルで、訓練データには約4億2000万件のツイートと1億8000万件のテキスト文が含まれ、様々なアラビア語NLPタスクをサポートします。

QARiBは約4.2億のツイートと1.8億のテキスト文で訓練されたアラビア語及び方言BERTモデルで、様々な下流NLPタスクをサポートします。

Bertimbau-Baseモデルをブラジル連邦政府公報50万件のインスタンスでMLM（マスク言語モデリング）ファインチューニングしたポルトガル語BERTモデル

これはTransformerアーキテクチャに基づく多言語機械翻訳モデルで、英語から様々なインド・ヨーロッパ語族の言語への翻訳タスクをサポートしています。

このモデルは、mBART - 50大型モデルをopus100データセットで英語からポルトガル語への翻訳タスクに合わせて微調整したバージョンで、高品質のバイリンガル翻訳をサポートします。

これはTransformerアーキテクチャに基づく英語から多言語への神経機械翻訳モデルで、100種以上の目標言語の翻訳タスクをサポートします。

OpenSubtitles、Dirty、PikabuおよびTaigaコーパスのソーシャルメディアセクションを基に訓練されたロシア語対話モデル

43GBのクロアチア語とセルビア語データセットで訓練されたRoBERTaモデルで、マスク言語モデルタスクをサポートします。

スペイン国立図書館(BNE)のデータを基に訓練されたGPT2 - largeのスペイン語言語モデル

これはGPT - 2アーキテクチャに基づくスペイン語言語モデルで、スペイン国立図書館の2009 - 2019年のウェブクローリングデータを使って訓練されています。