# OSCARデータセット

トルコ語向けのBERTスタイルのマスク言語モデルで、文字レベルで動作し、SpanBERTのような文字スパンマスク手法を用いて事前学習されています。

RobItはRoBERTaアーキテクチャに基づくイタリア語モデルで、Flaxフレームワークを使用してOSCARデータセットのイタリア語部分でゼロからトレーニングされました。

これは、OSCARの僧伽羅語の重複除去データセットを基に訓練されたやや小さいモデルで、低リソースの僧伽羅語に基礎的なサポートを提供します。

文字操作に基づくヘブライ語BERTスタイルのマスク言語モデルで、SpanBERTと同様に文字フラグメントをマスキングして事前学習を行います。

これはGPT2アーキテクチャに基づくモンゴル語テキスト生成モデルで、流暢なモンゴル語テキストを生成することを目的としています。

このモデルはXLM-RoBERTaの基本バリアントを基にしており、グジャラート語とOSCARの単一言語データセットでファインチューニングされており、グジャラート語の自然言語処理タスクに適しています。