Distilbert Base 25lang Cased

🚀 distilbert-base-25lang-cased

このプロジェクトでは、distilbert-base-multilingual-cased の小規模バージョンを公開しています。これらのバージョンは、カスタムな言語数を扱うことができます。元のモデルと同じ表現を生成し、精度も維持されています。

対応言語: en, fr, es, de, zh, ar, ru, vi, el, bg, th, tr, hi, ur, sw, nl, uk, ro, pt, it, lt, no, pl, da および ja。

詳細情報については、論文 Load What You Need: Smaller Versions of Multilingual BERT をご覧ください。

🚀 クイックスタート

このモデルを使用するには、以下の手順に従ってください。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/distilbert-base-25lang-cased")
model = AutoModel.from_pretrained("Geotrend/distilbert-base-25lang-cased")

その他の小規模バージョンの生成

多言語トランスフォーマーの他の小規模バージョンを生成するには、私たちのGitHubリポジトリ をご覧ください。

引用方法

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Multilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📚 詳細ドキュメント

言語サポート

• サポート言語: multilingual, en, fr, es, de, zh, ar, ru, vi, el, bg, th, tr, hi, ur, sw, nl, uk, ro, pt, it, lt, no, pl, da, ja

データセット

• データセット: wikipedia

ライセンス

• ライセンス: apache-2.0

ウィジェットの例

• "Google generated 46 billion [MASK] in revenue."
• "Paris is the capital of [MASK]."
• "Algiers is the largest city in [MASK]."
• "Paris est la [MASK] de la France."
• "Paris est la capitale de la [MASK]."
• "L'élection américaine a eu [MASK] en novembre 2020."
• "تقع سويسرا في [MASK] أوروبا"
• "إسمي محمد وأسكن في [MASK]."

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。

📞 連絡先

質問、フィードバック、またはリクエストがある場合は、amine@geotrend.fr までお問い合わせください。