Distilbert Base Da Cased

🚀 丹麥語預訓練模型 DistilBERT-base-da-cased

本項目分享了 distilbert-base-multilingual-cased 的小版本模型，該小版本模型可處理特定數量的語言。我們的模型與原始模型生成的表示完全相同，從而保證了原始的準確性。

如需瞭解更多信息，請參考我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

🚀 快速開始

模型信息

代碼示例

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-da-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-da-cased")

生成多語言 Transformer 小版本模型

若要生成多語言 Transformer 的其他小版本模型，請訪問 我們的 GitHub 倉庫。

引用方式

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

聯繫我們

如有任何問題、反饋或需求，請聯繫 amine@geotrend.fr。