Distilbert Base Ar Cased

🚀 阿拉伯語基礎大小寫敏感蒸餾BERT模型（distilbert-base-ar-cased）

本項目分享了多語言基礎大小寫敏感蒸餾BERT模型（distilbert-base-multilingual-cased）的精簡版本，該精簡版本可處理特定數量的語言。

我們的精簡版本所生成的表徵與原始模型完全相同，能夠保留原始模型的準確性。

如需瞭解更多信息，請查閱我們的論文：按需加載：多語言BERT的精簡版本。

🚀 快速開始

模型使用方法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-ar-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-ar-cased")

若要生成多語言Transformer的其他精簡版本，請訪問我們的GitHub倉庫。

如何引用

@inproceedings{smallermdistilbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📄 許可證

本項目採用Apache-2.0許可證。

📚 詳細文檔

數據集

本模型使用的數據集為維基百科（Wikipedia）。

📞 聯繫我們

如有任何問題、反饋或需求，請聯繫amine@geotrend.fr。