# 多源データ訓練

Humによって開発されたsentence-transformersモデルで、4096トークンの長文埋め込みをサポートし、意味検索とクラスタリングタスクに適しています。

Megatron-LMフレームワークに基づいて実装されたスウェーデン語Bert Largeモデルで、3億4000万のパラメータを含み、85GBのスウェーデン語テキストで事前学習されています。

DistilBERTを微調整した英文テキストの句読点復元モデルで、句読点のない小文字の英文テキストに句読点を付けるために設計されています。

rubert - base - cased - conversationalモデルに基づくロシア語毒性テキスト分類器

モロッコのアラビア語方言「ダリジャ」に特化した初のBERTモデルで、BERT-baseアーキテクチャに基づいており、訓練データには約300万件のダリジャ方言のテキストシーケンスが含まれています。