# マスク埋めタスク

ModernBERTアーキテクチャに基づき、トークン化技術を使用してOpenSubtitlesが提供する24GBの並列文コーパスでポーランド語をアライメントしてトレーニングされたモデル。

これはアイスランド語と英語のテキストで訓練されたXLMRモデルで、多言語タスクをサポートしています。

ポルトガル語法律分野の言語モデル、BERTimbau largeを基にファインチューニングされ、法律テキスト処理に特化

スウェーデン語、デンマーク語、ノルウェー語のウィキペディアで訓練された北欧RoBERTaモデルで、マスク埋めタスクに適しています。