Bert Base En Fr Es De Zh Cased

🚀 bert-base-en-fr-es-de-zh-cased

本項目分享了bert-base-multilingual-cased的更小版本，可處理特定數量的語言。與distilbert-base-multilingual-cased不同，我們的版本能生成與原始模型完全相同的表示，從而保留了原始的準確性。

如需瞭解更多信息，請訪問我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

🚀 快速開始

模型使用

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-en-fr-es-de-zh-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-en-fr-es-de-zh-cased")

生成其他小版本模型

若要生成多語言transformer的其他小版本，請訪問我們的GitHub倉庫。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-en-fr-es-de-zh-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-en-fr-es-de-zh-cased")

📚 詳細文檔

如何引用

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

聯繫我們

如有任何問題、反饋或需求，請聯繫amine@geotrend.fr。

📄 許可證

本項目採用Apache-2.0許可證。

📦 模型信息