Rubert Base

🚀 ruBert-base

ruBert-base 是由 SberDevices 團隊預訓練的模型，可用於解決俄語的掩碼填充任務。該模型的架構設計、預訓練和評估等詳細內容記錄在預印本 A Family of Pretrained Transformer Language Models for Russian 中。

📚 詳細文檔

模型信息

作者信息

• NLP 核心研發團隊 Telegram 頻道：
  • Dmitry Zmitrovich

引用信息

如果您使用了該模型，請按照以下 BibTeX 格式引用：

@misc{zmitrovich2023family,
      title={A Family of Pretrained Transformer Language Models for Russian}, 
      author={Dmitry Zmitrovich and Alexander Abramov and Andrey Kalmykov and Maria Tikhonova and Ekaterina Taktasheva and Danil Astafurov and Mark Baushenko and Artem Snegirev and Tatiana Shavrina and Sergey Markov and Vladislav Mikhailov and Alena Fenogenova},
      year={2023},
      eprint={2309.10931},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}

📄 許可證

本模型採用 Apache-2.0 許可證。