# 全単語マスキング

MiniRBTは知識蒸留技術に基づいて開発された中国語小型事前学習モデルで、全単語マスキング技術を用いて学習効率を最適化しています。

MiniRBTは知識蒸留技術に基づいて開発された中国語小型事前学習モデルで、全単語マスキング技術を用いて学習効率を最適化しています。

MiniRBTは知識蒸留技術に基づく中国語小型事前学習モデルで、全単語マスキング技術を組み合わせ、様々な中国語自然言語処理タスクに適しています。

DeBERTa-v2アーキテクチャに基づく中国語事前学習言語モデル、パラメータ数3.2億、自然言語理解タスクに優れる

スウェーデン国立図書館/KBLabが公開したスウェーデン語BERT基本モデル、複数ソースのテキストで学習

スウェーデン国立図書館/KBLabが公開したスウェーデン語BERT基本モデル、複数のソースからのテキストで学習

生物医学テキストマイニング専用に設計された軽量BERTモデルで、BERT-baseの3倍の速度で動作し、性能はBioBERT/PubMedBERTと同等またはそれ以上

これは文字レベル分かち書きと全単語マスキング技術を採用した日本語BERT事前学習モデルで、`fugashi`や`unidic_lite`ツールキットに依存しません。

全単語マスキング戦略を採用した中国語事前学習BERTモデルで、中国語自然言語処理研究を加速することを目的としています。

全単語マスキング技術を用いて事前学習され、SQuAD v1.1で微調整されたBERT-largeの英語質問応答モデルで、INT8精度に量子化されています。

BETOは大規模なスペイン語コーパスを基に訓練されたBERTモデルで、大文字小文字を区別するバージョンと区別しないバージョンがあり、様々なスペイン語NLPタスクに適しています。

BETOは大規模なスペイン語コーパスを使って学習されたBERTモデルで、大文字小文字を区別するバージョンと区別しないバージョンの両方をサポートし、様々なスペイン語NLPタスクに適用できます。

UmBERToはRobertaアーキテクチャに基づくイタリア語の言語モデルで、SentencePieceと全単語マスキング技術を用いて訓練され、さまざまな自然言語処理タスクに適しています。

スウェーデン国立図書館/KBLabが公開したスウェーデン語のBERT基礎モデル。多ソースのテキストデータを基に学習されています。