Distilbert Base No Cased

🚀 distilbert-base-no-cased

distilbert-base-multilingual-cased のカスタム言語数対応の小型バージョンを公開しています。このバージョンは、元のモデルとまったく同じ表現を生成し、元の精度を維持します。

🚀 クイックスタート

このモデルは、特定の言語数を扱う distilbert-base-multilingual-cased の小型バージョンです。元のモデルと同じ表現を生成し、精度も維持されています。詳細については、論文 を参照してください。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-no-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-no-cased")

他の多言語トランスフォーマーの小型バージョンを生成するには、私たちのGitHubリポジトリ を参照してください。

引用方法

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📞 お問い合わせ

質問、フィードバック、または要求がある場合は、amine@geotrend.fr までお問い合わせください。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。