# 軽量級BERT

DistilBERTベースのLinkedIn技能識別モデルで、テキストから専門技能を識別するために使用されます。

DistilBERTはBERTの軽量級蒸留バージョンで、BERTの97％の性能を維持しながら、サイズを40％縮小し、速度を60％向上させます。

DistilBERTはBERTの軽量級蒸留バージョンで、大部分の性能を維持しながらパラメータが少なくなっています。

このモデルは、DistilBERTをベースにclinc_oosデータセットで微調整されたテキスト分類モデルで、主に意図識別タスクに使用されます。

DistilBERTはBERTの軽量級蒸留バージョンで、BERTの97％の性能を維持しながら、サイズを40％縮小しています。

DistilBERTに基づく軽量級の命名エンティティ認識モデルで、未知のデータセットで微調整され、効率的な推論速度と良好なエンティティ認識能力を持っています。

BERTアーキテクチャに基づく軽量級のロシア語命名エンティティ認識モデルで、人物、場所、組織の3種類のエンティティの認識をサポートします。

DistilBERTに基づく軽量級テキスト感情分類モデルで、emotionデータセットで微調整され、正解率は92.05%に達します。

これは、IMDbのネガティブレビューで微調整されたDistilBERTモデルで、感情分析タスクに使用されます。

ペルシア語の自己教師付き学習言語表現のために作られた軽量級BERTモデル

ペルシア語の言語表現の自己教師付き学習に使用される軽量級BERTモデル

BERT Tinyアーキテクチャに基づいて微調整された軽量級の偽ニュース検出モデルで、中国語テキスト分析に適しています。

ペルシャ語の自己教師付き学習言語表現のための軽量級BERTモデル

DistilBERTアーキテクチャに基づく軽量級感情分析モデルで、SST2データセットに特化して微調整され、テキスト中のポジティブまたはネガティブな感情を識別できます。

IndoBERTはインドネシア語向けに開発されたトップクラスの言語モデルで、BERTアーキテクチャに基づき、マスク言語モデリングと次文予測の目標を用いて訓練されています。

MobileBERTは軽量級のBERTバリアントで、モバイルデバイス向けに最適化され、高い性能を維持しています。

これはTiny BERTアーキテクチャに基づくテキスト分類モデルで、GLUEのSST - 2データセットで微調整され、感情分析タスクに使用されます。

DistilRoBERTaはRoBERTaモデルの軽量級蒸留バージョンで、大部分の性能を維持しながら、サイズが小さく、速度が速い。

これは再学習された6層のRoBERTa-wwm-extモデルで、全単語マスキング技術を用いて中国語の事前学習を行っています。

distilbert-base-uncasedモデルをwikiannデータセットで微調整した命名エンティティ認識モデルで、評価セットでF1値0.8210の優れた成績を収めました。

このモデルは、distilbert-base-uncasedをingredients_yes_noデータセットで微調整したバージョンで、ラベル分類タスクに使用されます。

DistilBERTベースの軽量級命名エンティティ認識モデルで、conll2003データセットで微調整されました。

IndoBERTはインドネシア語用の先進的な言語モデルで、BERTアーキテクチャに基づき、マスク言語モデリングと次文予測の目的で訓練されています。

初のペルシア語向けALBERTモデルで、GoogleのALBERT基礎版2.0アーキテクチャに基づき、多様なペルシア語コーパスで学習されたものです。

初のペルシア語向けの軽量級ALBERTモデルで、GoogleのALBERT BASE 2.0バージョンをベースに訓練されました。

ALBERTアーキテクチャに基づく軽量級感情分析モデルで、Twitter感情データセットで微調整されています。

DistilBERTに基づく軽量級テキスト感情分類モデルで、emotionデータセットで微調整されました。

DistilBERTに基づく軽量級の命名エンティティ認識モデルで、conll2003データセットで微調整され、効率的な推論性能と高い精度を持っています。

このモデルは2.5億の中国語コーパスに基づき、MobileBERTアーキテクチャを用いて事前学習を行い、トレーニング周期は15日で、単一のA100グラフィックカード上で100万ステップの反復を完了しました。

300Gの中国語コーパスに基づいて事前学習されたBERTモデルで、MLM、POS、SOPタスクを用いて学習

DistilBERTアーキテクチャに基づく軽量級スペイン語事前学習言語モデルで、さまざまな自然言語処理タスクに適しています。

このモデルは、distilbert-base-uncasedをSST-2データセットでファインチューニングしたバージョンで、主にテキストの感情分析タスクに使用されます。

DistilBERTベースの金融苦情分類モデルで、18種類の苦情タイプを識別できます。

これはdistilbert-base-multilingual-casedの多言語汎用版のカスタマイズされた簡素化バージョンで、アラビア語に特化して最適化されており、元のモデルの表現能力と精度を維持しています。

DistilBertForTokenClassificationをベースに微調整した中国語の句読点復元モデルで、句読点のない中国語テキストに句読点を付けるために設計されています。

これはdistilbert-base-multilingual-casedの多言語版をカスタマイズした簡素化バージョンで、スペイン語処理に特化して最適化されています。

このモデルはbert-base-chineseを未知のデータセットで微調整したバージョンで、主に中国語テキスト処理タスクに使用されます。

RobBERTjeはRobBERTに基づく蒸留オランダ語モデルセットのシャッフル版で、パラメータ数は74Mで、シャッフルされたOSCARコーパスを使用して訓練されています。

ALBERTはTransformerアーキテクチャに基づく軽量級事前学習言語モデルで、自己教師付き学習により英語テキストで学習され、パラメータ共有の特性を持ち、メモリ使用量を削減します。

DistilBERTに基づく軽量級テキスト分類モデルで、CLINC OOSデータセットで微調整され、意図識別タスクに使用されます。