R

Roberta Large Japanese

Developed by nlp-waseda
日本語ウィキペディアとCC-100の日本語部分で事前学習された大型日本語RoBERTaモデルで、日本語自然言語処理タスクに適しています。
Downloads 227
Release Time : 5/10/2022

Model Overview

これは日本語ウィキペディアとCC-100の日本語部分で事前学習された大型日本語RoBERTaモデルで、主に日本語テキストのマスク言語モデリングと下流タスクのファインチューニングに使用されます。

Model Features

日本語専用事前学習
日本語テキストに特化して事前学習されており、日本語自然言語処理タスクの性能を最適化しています。
Juman++トークン化サポート
入力テキストは事前にJuman++でトークン化する必要があり、日本語テキストの効率的な処理を保証します。
大規模トレーニングデータ
日本語ウィキペディアとCC-100の日本語部分に基づいてトレーニングされており、広範な日本語コーパスをカバーしています。
高性能ハードウェアでのトレーニング
8台のNVIDIA A100 GPUを使用して2週間トレーニングされ、モデルの高品質を保証しています。

Model Capabilities

日本語テキスト理解
マスク言語モデリング
下流タスクのファインチューニング

Use Cases

自然言語処理
日本語テキスト補完
マスク言語モデリングを使用して日本語テキストの欠落部分を補完します。
下流タスクのファインチューニング
特定の日本語NLPタスク(テキスト分類、固有表現認識など)でモデルをファインチューニングします。
AIbase
Empowering the Future, Your AI Solution Knowledge Base
© 2025AIbase