# WordPieceトークン化

CamemBERTv2は2750億のフランス語テキストコーパスで事前学習されたフランス語言語モデルで、CamemBERTの第2世代バージョンです。RoBERTaアーキテクチャを採用し、トークナイザーとトレーニングデータを最適化しました。

日本語BERTを改良したLUKEモデルで、日本語固有表現認識タスクに最適化されています

トルコ語向けに最適化されたRoBERTaモデルで、マスク言語モデリング目標で事前学習されており、大文字小文字を区別せず、トルコ語テキスト処理タスクに適しています。

インドネシア語ウィキペディアで事前学習されたBERTベースモデルで、マスク言語モデリング（MLM）目標で訓練されており、大文字小文字を区別しません。