distilbert-base-en-fr-es-pt-it-casedオープンソース言語モデル - 英語、フランス語、スペイン語、ポルトガル語、イタリア語の無料での展開と処理

ホーム

Distilbert Base En Fr Es Pt It Cased

Geotrendによって開発

これはdistilbert-base-multilingual-casedの軽量版で、英語、フランス語、スペイン語、ポルトガル語、イタリア語の処理をサポートします。

大規模言語モデル

Transformers

複数言語対応オープンソースライセンス:Apache-2.0 #多言語軽量BERT #ウィキペディア事前学習 #ヨーロッパ言語圏対応

ダウンロード数 24

リリース時間 : 3/2/2022

モデル概要

このモデルはDistilBERTの多言語軽量版で、5つの言語の処理をサポートし、元のモデルと完全に一致する表現を生成し、元の精度を維持します。

モデル特徴

多言語対応

英語、フランス語、スペイン語、ポルトガル語、イタリア語の5つの言語の処理をサポートします。

軽量版

元のdistilbert-base-multilingual-casedモデルの軽量版で、元の精度を維持します。

表現の一致性

元のモデルと完全に一致する表現を生成できます。

モデル能力

多言語テキスト理解

多言語テキスト表現生成

使用事例

自然言語処理

多言語テキスト分類

5つの言語のテキストを分類します。

多言語質問応答システム

複数の言語をサポートする質問応答システムを構築します。

🚀 distilbert-base-en-fr-es-pt-it-cased

このプロジェクトでは、distilbert-base-multilingual-cased の小規模バージョンを公開しています。これらのバージョンは、カスタムな言語数を扱うことができます。元のモデルと同じ表現を生成し、精度も維持されています。

詳細については、論文 Load What You Need: Smaller Versions of Multilingual BERT を参照してください。

🚀 クイックスタート

モデルの使用方法

このモデルを使用するには、以下のコードを参考にしてください。

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-en-fr-es-pt-it-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-en-fr-es-pt-it-cased")

他の小規模バージョンの生成方法

多言語トランスフォーマーの他の小規模バージョンを生成するには、私たちのGitHubリポジトリを参照してください。

引用方法

このモデルを引用する場合は、以下のBibTeXを使用してください。

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}