Finest Bert

🚀 FinEst BERT

FinEst BERT 是一個三語模型，採用 bert-base 架構，在芬蘭語、愛沙尼亞語和英語語料庫上進行訓練。該模型專注於這三種語言，其性能優於 多語言 BERT，同時還提供了跨語言知識遷移的選項，這是單語言模型所不具備的。

🚀 快速開始

FinEst BERT 是一個基於 bert-base 架構的三語模型，在芬蘭語、愛沙尼亞語和英語語料庫上進行訓練。它在這三種語言上的表現優於多語言 BERT，並且支持跨語言知識遷移。

📚 詳細文檔

模型評估

評估內容詳見我們的文章：

@Inproceedings{ulcar-robnik2020finest,
author = "Ulčar, M. and Robnik-Šikonja, M.",
year = 2020,
title = "{FinEst BERT} and {CroSloEngual BERT}: less is more in multilingual models",
editor = "Sojka, P and Kopeček, I and Pala, K and Horák, A",
booktitle = "Text, Speech, and Dialogue {TSD 2020}",
series = "Lecture Notes in Computer Science",
volume = 12284,
publisher = "Springer",
url = "https://doi.org/10.1007/978-3-030-58323-1_11",
}

預印本可在 arxiv.org/abs/2006.07890 查看。

📄 許可證

本項目採用 CC BY 4.0 許可證。