Est Roberta

🚀 Est-RoBERTa

Est-RoBERTa是一個單語的愛沙尼亞語類BERT模型，與法語Camembert模型（https://camembert-model.fr/ ）密切相關。該模型使用的愛沙尼亞語語料庫總計有25.1億個標記，子詞詞彙表包含40000個標記。它經過了40個輪次的訓練。

🚀 快速開始

在transformers庫中加載該模型，可使用以下代碼：

from transformers import AutoTokenizer, AutoModelForMaskedLM
  
tokenizer = AutoTokenizer.from_pretrained("EMBEDDIA/est-roberta")
model = AutoModelForMaskedLM.from_pretrained("EMBEDDIA/est-roberta")

💻 使用示例

基礎用法

# 在transformers庫中加載該模型
from transformers import AutoTokenizer, AutoModelForMaskedLM
  
tokenizer = AutoTokenizer.from_pretrained("EMBEDDIA/est-roberta")
model = AutoModelForMaskedLM.from_pretrained("EMBEDDIA/est-roberta")

🔧 技術細節

Est-RoBERTa模型是單語的愛沙尼亞語類BERT模型，與法語Camembert模型（https://camembert-model.fr/ ）密切相關。用於訓練該模型的愛沙尼亞語語料庫總共包含25.1億個標記，子詞詞彙表包含40000個標記。Est-RoBERTa經過了40個輪次的訓練。

📄 許可證

本項目採用CC BY-SA 4.0許可證。