Bart Ko Base

🚀 韓語預訓練BART模型

本項目是一個使用多個韓語數據集進行預訓練的BART模型。為了使模型能夠同時適用於口語和書面語，訓練過程中使用了多個數據集。該訓練得到了 TPU Research Cloud 項目的支持。用於預訓練模型的腳本可在 此處 找到。

在使用參考API時，必須像下面的示例一樣，用 [BOS] 和 [EOS] 包裹句子。

[BOS] 안녕하세요? 반가워요~~ [EOS]

你還可以使用 [MASK] 標記來測試掩碼填充性能，如下所示。

[BOS] [MASK] 먹었어? [EOS]

🚀 快速開始

當你使用參考API時，必須用 [BOS] 和 [EOS] 包裹句子，示例如下：

[BOS] 안녕하세요? 반가워요~~ [EOS]

你也可以使用 [MASK] 標記測試掩碼填充性能：

[BOS] [MASK] 먹었어? [EOS]

✨ 主要特性

• 使用多個韓語數據集進行預訓練，使模型能同時適用於口語和書面語。
• 訓練得到 TPU Research Cloud 項目支持。

💻 使用示例

基礎用法

在使用參考API時，必須用 [BOS] 和 [EOS] 包裹句子，示例如下：

[BOS] 안녕하세요? 반가워요~~ [EOS]

高級用法

你可以使用 [MASK] 標記測試掩碼填充性能：

[BOS] [MASK] 먹었어? [EOS]

📚 詳細文檔

基準測試

• 性能使用 此處的筆記本 在Colab上進行測量。

使用的數據集

全部語料庫

• 日常對話語料庫2020
• 口語語料庫
• 書面語語料庫
• 新聞語料庫

AIhub

• 開放數據專業領域語料庫
• 開放數據韓語文本摘要
• 開放數據情感對話語料庫
• 開放數據韓語語音
• 開放數據韓語SNS

世宗語料庫