# 韓語預訓練

KpfBERT 是一個基於 BERT 架構的韓語預訓練語言模型，由個人開發者 jinmang2 發佈。

基於韓語預訓練的RoBERTa模型，適用於多種韓語自然語言處理任務。

KoELECTRA v3是一個基於ELECTRA架構的韓語預訓練語言模型，特別適用於韓語文本處理任務。

KoELECTRA是一個基於ELECTRA架構的韓語預訓練語言模型，由monologg開發。該模型作為生成器部分，專注於韓語文本的表示學習。

基於韓語預訓練的BERT模型，由KLUE基準開發團隊構建，支持多種韓語理解任務

基於LASSL框架訓練的小型韓語RoBERTa模型，適用於多種韓語自然語言處理任務。