Bert Base En Th Cased

🚀 bert-base-en-th-cased

bert-base-multilingual-casedの小規模バージョンを公開しています。これらのバージョンは、カスタム言語数を扱うことができます。

distilbert-base-multilingual-casedとは異なり、当社のバージョンは元のモデルが生成する表現とまったく同じものを提供し、元の精度を維持します。

🚀 クイックスタート

このモデルは、特定の言語数を扱うためのbert-base-multilingual-casedの小規模バージョンです。元のモデルと同じ表現を生成し、精度を維持します。

✨ 主な機能

• カスタム言語数を扱うことができる小規模バージョンのマルチリンガルBERT。
• 元のモデルと同じ表現を生成し、精度を維持する。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("Geotrend/bert-base-en-th-cased")
model = AutoModel.from_pretrained("Geotrend/bert-base-en-th-cased")

高度な使用法

マルチリンガルトランスフォーマーの他の小規模バージョンを生成するには、当社のGitHubリポジトリを参照してください。

📚 ドキュメント

詳細な情報については、当社の論文Load What You Need: Smaller Versions of Multilingual BERTを参照してください。

引用方法

@inproceedings{smallermbert,
  title={Load What You Need: Smaller Versions of Mutlilingual BERT},
  author={Abdaoui, Amine and Pradel, Camille and Sigel, Grégoire},
  booktitle={SustaiNLP / EMNLP},
  year={2020}
}

📄 ライセンス

このプロジェクトは、Apache 2.0ライセンスの下で公開されています。

📦 データセット

このモデルはWikipediaデータセットを使用してトレーニングされています。

📞 お問い合わせ

質問、フィードバック、またはリクエストがある場合は、amine@geotrend.frまでお問い合わせください。