# 韩语处理

KoELECTRA是一个基于ELECTRA架构的韩语预训练语言模型，由monologg开发。该模型作为生成器部分，专注于韩语文本的表示学习。

DistilKoBERT是韩语BERT模型的轻量级版本，通过知识蒸馏技术压缩原始模型，保留了大部分性能同时减少计算资源需求。