Gigabert V3 Arabic And English

🚀 GigaBERT-v3

GigaBERT-v3は、英語とアラビア語用にカスタマイズされたバイリンガルBERTです。約100億トークンの大規模コーパス（Gigaword + Oscar + Wikipedia）で事前学習され、情報抽出（IE）タスクにおいて英語からアラビア語への最先端のゼロショット転移性能を示しています。詳細は以下の論文を参照してください。

🚀 クイックスタート

サポート言語

• 英語
• アラビア語
• 多言語

データセット

• Gigaword
• Oscar
• Wikipedia

💻 使用例

基本的な使用法

from transformers import *
tokenizer = BertTokenizer.from_pretrained("lanwuwei/GigaBERT-v3-Arabic-and-English", do_lower_case=True)
model = BertForTokenClassification.from_pretrained("lanwuwei/GigaBERT-v3-Arabic-and-English")

より多くのコード例はこちらで確認できます。

📚 ドキュメント

詳細な情報は、以下の論文を参照してください。

@inproceedings{lan2020gigabert,
  author     = {Lan, Wuwei and Chen, Yang and Xu, Wei and Ritter, Alan},
  title      = {An Empirical Study of Pre-trained Transformers for Arabic Information Extraction},
  booktitle  = {Proceedings of The 2020 Conference on Empirical Methods on Natural Language Processing (EMNLP)},
  year       = {2020}
}