Distilbert Base Uk Cased

🚀 distilbert-base-uk-cased

私たちは、カスタム言語数を扱うdistilbert-base-multilingual-casedの小型版を公開しています。当社のバージョンは、元のモデルが生成する表現とまったく同じものを提供し、元の精度を維持しています。

詳細については、当社の論文Load What You Need: Smaller Versions of Multilingual BERTをご覧ください。

🚀 クイックスタート

モデルの使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-uk-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-uk-cased")

多言語トランスフォーマーの他の小型版を生成するには、当社のGitHubリポジトリをご覧ください。

引用方法

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📚 ドキュメント

お問い合わせ

質問、フィードバック、またはリクエストがある場合は、amine@geotrend.frまでご連絡ください。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で提供されています。

📦 データセット

このモデルはWikipediaデータセットを使用しています。