# 知识增强预训练

ERNIE 3.0是一个面向语言理解与生成的大规模知识增强预训练模型，由百度开发。

ERNIE 3.0 是一个面向语言理解与生成的大规模知识增强预训练模型，具有高效的语言处理能力。

ERNIE 3.0是百度推出的面向语言理解与生成的大规模知识增强预训练模型，micro-zh是其小型中文版本。

ERNIE 3.0是一个面向中文语言理解与生成的大规模知识增强预训练模型，mini版本是其轻量级实现。

ERNIE 3.0 是一个面向语言理解与生成的大规模知识增强预训练模型，由百度开发。

ERNIE 3.0是一个面向中文语言理解与生成的大规模知识增强预训练模型，由百度研究院开发。

SKEP（情感知识增强预训练模型）由百度于2020年提出，专为情感分析任务设计。该模型通过情感掩码技术和三项情感预训练目标，融合了多类型知识进行预训练。

LinkBERT-large是基于英文维基百科及书籍语料库预训练的改进型BERT模型，通过整合文档链接信息增强跨文档知识理解能力。

这是一个基于BERT-base架构的预训练语言模型，专门针对2020年美国大选期间关于乔·拜登的推特立场检测任务进行优化。