# 知識增強預訓練

ERNIE 3.0是一個面向語言理解與生成的大規模知識增強預訓練模型，由百度開發。

ERNIE 3.0 是一個面向語言理解與生成的大規模知識增強預訓練模型，具有高效的語言處理能力。

ERNIE 3.0是百度推出的面向語言理解與生成的大規模知識增強預訓練模型，micro-zh是其小型中文版本。

ERNIE 3.0是一個面向中文語言理解與生成的大規模知識增強預訓練模型，mini版本是其輕量級實現。

ERNIE 3.0 是一個面向語言理解與生成的大規模知識增強預訓練模型，由百度開發。

ERNIE 3.0是一個面向中文語言理解與生成的大規模知識增強預訓練模型，由百度研究院開發。

SKEP（情感知識增強預訓練模型）由百度於2020年提出，專為情感分析任務設計。該模型通過情感掩碼技術和三項情感預訓練目標，融合了多類型知識進行預訓練。

LinkBERT-large是基於英文維基百科及書籍語料庫預訓練的改進型BERT模型，通過整合文檔鏈接信息增強跨文檔知識理解能力。

這是一個基於BERT-base架構的預訓練語言模型，專門針對2020年美國大選期間關於喬·拜登的推特立場檢測任務進行優化。