# WordPiece分詞

CamemBERTv2是基於2750億法語文本語料預訓練的法語語言模型，是CamemBERT的第二代版本，採用RoBERTa架構，優化了分詞器和訓練數據。

基於日語BERT改進的LUKE模型，專為日語命名實體識別任務優化

基於土耳其語的RoBERTa模型，採用掩碼語言建模目標預訓練，不區分大小寫，適用於土耳其語文本處理任務。

基於印尼語維基百科預訓練的BERT基礎模型，採用掩碼語言建模（MLM）目標訓練，不區分大小寫。

這是一個基於BERT的印尼語預訓練模型，使用維基百科和報紙數據進行訓練，適用於多種自然語言處理任務。