Distilbert Base En Fr Da Ja Vi Cased

🚀 distilbert-base-en-fr-da-ja-vi-cased

我們正在分享 distilbert-base-multilingual-cased 的更小版本，這些版本可以處理特定數量的語言。我們的版本所生成的表徵與原始模型完全相同，從而保留了原始的準確性。

如需更多信息，請訪問我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

🚀 快速開始

如何使用

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-en-fr-da-ja-vi-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-en-fr-da-ja-vi-cased")

若要生成多語言變換器的其他更小版本，請訪問 我們的GitHub倉庫。

如何引用

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📚 詳細文檔

數據集

• 數據集：wikipedia

許可證

• 許可證：apache-2.0

📞 聯繫我們

如有任何問題、反饋或需求，請聯繫 amine@geotrend.fr。