Gigabert V3 Arabic And English

🚀 GigaBERT-v3

GigaBERT-v3是一款為英語和阿拉伯語定製的雙語BERT模型。它在包含約100億個標記的大規模語料庫（Gigaword + Oscar + Wikipedia）上進行了預訓練，在信息提取（IE）任務中，展現了從英語到阿拉伯語的最先進零樣本遷移性能。更多詳細信息可查閱以下論文：

@inproceedings{lan2020gigabert,
  author     = {Lan, Wuwei and Chen, Yang and Xu, Wei and Ritter, Alan},
  title      = {An Empirical Study of Pre-trained Transformers for Arabic Information Extraction},
  booktitle  = {Proceedings of The 2020 Conference on Empirical Methods on Natural Language Processing (EMNLP)},
  year       = {2020}
}

🚀 快速開始

📦 安裝指南

由於文檔未提及安裝步驟，此部分跳過。

💻 使用示例

基礎用法

from transformers import *
tokenizer = BertTokenizer.from_pretrained("lanwuwei/GigaBERT-v3-Arabic-and-English", do_lower_case=True)
model = BertForTokenClassification.from_pretrained("lanwuwei/GigaBERT-v3-Arabic-and-English")

更多代碼示例可查看此處。

📚 詳細文檔