# 重み共有アーキテクチャ

マスク言語モデリング(MLM)目標で事前学習された多言語ALBERTモデルで、60種以上の言語をサポートし、パラメータ共有の軽量アーキテクチャを持つ

マスク言語モデリング（MLM）目標で事前学習された多言語ALBERTモデル、64k語彙サイズをサポート、大文字小文字を区別

マスク言語モデリングの目的で事前学習された多言語ALBERTモデルで、50種以上の言語をサポートし、大文字小文字を区別します。

フランス語ウィキペディアで事前学習されたALBERTベースモデルで、大文字小文字の識別をサポートし、フランス語NLPタスクに適しています。

ALBERTは英語コーパスで事前学習された軽量版のBERTバリアントで、パラメータ共有によりメモリ使用量を削減し、マスク言語モデリングと文順予測タスクをサポートします。

ALBERTはTransformerアーキテクチャに基づく軽量級事前学習言語モデルで、自己教師付き学習により英語テキストで学習され、パラメータ共有の特性を持ち、メモリ使用量を削減します。