Est Roberta

🚀 Est-RoBERTa

Est-RoBERTa是一个单语的爱沙尼亚语类BERT模型，与法语Camembert模型（https://camembert-model.fr/ ）密切相关。该模型使用的爱沙尼亚语语料库总计有25.1亿个标记，子词词汇表包含40000个标记。它经过了40个轮次的训练。

🚀 快速开始

在transformers库中加载该模型，可使用以下代码：

from transformers import AutoTokenizer, AutoModelForMaskedLM
  
tokenizer = AutoTokenizer.from_pretrained("EMBEDDIA/est-roberta")
model = AutoModelForMaskedLM.from_pretrained("EMBEDDIA/est-roberta")

💻 使用示例

基础用法

# 在transformers库中加载该模型
from transformers import AutoTokenizer, AutoModelForMaskedLM
  
tokenizer = AutoTokenizer.from_pretrained("EMBEDDIA/est-roberta")
model = AutoModelForMaskedLM.from_pretrained("EMBEDDIA/est-roberta")

🔧 技术细节

Est-RoBERTa模型是单语的爱沙尼亚语类BERT模型，与法语Camembert模型（https://camembert-model.fr/ ）密切相关。用于训练该模型的爱沙尼亚语语料库总共包含25.1亿个标记，子词词汇表包含40000个标记。Est-RoBERTa经过了40个轮次的训练。

📄 许可证

本项目采用CC BY-SA 4.0许可证。