Bert Base En Hi Cased

🚀 bert-base-en-hi-cased

本項目分享了 bert-base-multilingual-cased 的較小版本，這些版本可處理特定數量的語言。與 distilbert-base-multilingual-cased 不同，我們的版本能生成與原始模型完全相同的表示，從而保留了原始的準確性。

🚀 快速開始

本項目分享了 bert-base-multilingual-cased 的較小版本，可處理特定數量的語言。與 distilbert-base-multilingual-cased 不同，我們的版本生成的表示與原始模型完全相同，保留了原始準確性。更多信息請參閱我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

✨ 主要特性

• 提供 bert-base-multilingual-cased 的較小版本。
• 生成的表示與原始模型完全相同，保留原始準確性。

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-en-hi-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-en-hi-cased")

其他說明

若要生成多語言變換器的其他較小版本，請訪問 我們的 GitHub 倉庫。

📚 詳細文檔

更多信息請訪問我們的論文：Load What You Need: Smaller Versions of Multilingual BERT。

如何引用

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📄 許可證

本項目採用 Apache-2.0 許可證。

📞 聯繫我們

如有任何問題、反饋或請求，請聯繫 amine@geotrend.fr。

📋 數據集

本項目使用的數據集為 Wikipedia。

🧩 小部件示例

• "Google generated 46 billion [MASK] in revenue."
• "Paris is the capital of [MASK]."
• "Algiers is the largest city in [MASK]."