Bert Base Bg Cased

🚀 bert-base-bg-cased

このプロジェクトでは、bert-base-multilingual-cased の小規模版を公開しています。これらのモデルは、カスタム言語数を扱うことができます。distilbert-base-multilingual-cased とは異なり、当社のバージョンは元のモデルが生成する表現とまったく同じものを提供し、元の精度を維持します。

詳細については、当社の論文 Load What You Need: Smaller Versions of Multilingual BERT をご覧ください。

🚀 クイックスタート

モデルの基本情報

モデルの使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-bg-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-bg-cased")

その他の小規模版モデルの生成

多言語トランスフォーマーの他の小規模版を生成するには、当社のGitHubリポジトリ をご覧ください。

引用方法

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

お問い合わせ

ご質問、フィードバック、またはリクエストがある場合は、amine@geotrend.fr までお問い合わせください。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。