# 葡萄牙語BERT

BERTugues是基於葡萄牙語文本訓練的BERT模型，嚴格遵循原始BERT論文的預訓練流程，通過100萬步訓練完成掩碼語言建模和下一句預測任務。

該模型是基於葡萄牙語BERT基礎模型(neuralmind/bert-base-portuguese-cased)進行微調的版本，具體任務未明確說明

BERTimbau Large 是一個針對巴西葡萄牙語的預訓練 BERT 模型，在多個下游 NLP 任務上達到了最先進的性能。

這是distilbert-base-multilingual-cased的小型版本，專門處理葡萄牙語，保持了原始模型的準確性。