Bartpho Word

🚀 BARTpho：越南語預訓練的序列到序列模型

BARTpho 有 BARTpho-syllable 和 BARTpho-word 兩個版本，它們是首批公開的、為越南語進行預訓練的大規模單語序列到序列模型。BARTpho 採用了序列到序列去噪模型 BART 的 “大型” 架構和預訓練方案，因此特別適用於生成式自然語言處理任務。在越南語文本摘要下游任務的實驗表明，無論是自動評估還是人工評估，BARTpho 都優於強大的基線模型 mBART，並提升了當前的最優水平。

🚀 快速開始

若需進一步瞭解或有相關需求，請訪問 BARTpho 主頁！

✨ 主要特性

• 首批公開的越南語大規模單語序列到序列預訓練模型。
• 採用 BART 的 “大型” 架構和預訓練方案，適合生成式 NLP 任務。
• 在越南語文本摘要任務中表現優於 mBART 並提升了最優水平。

📚 詳細文檔

BARTpho 的總體架構和實驗結果可在我們的 論文 中查看：

@article{bartpho,
title     = {{BARTpho: Pre-trained Sequence-to-Sequence Models for Vietnamese}},
author    = {Nguyen Luong Tran and Duong Minh Le and Dat Quoc Nguyen},
journal   = {arXiv preprint},
volume    = {arXiv:2109.09701},
year      = {2021}
}

📄 許可證

本項目採用 MIT 許可證。

⚠️ 重要提示

使用 BARTpho 來幫助產生已發表的研究成果或集成到其他軟件中時，請引用我們的論文。