# 俄英雙語支持

XLM-RoBERTa-base 是一個基於 RoBERTa 架構的多語言預訓練模型，支持俄語和英語，適用於文本分類任務。

SciRus-tiny 是一個用於獲取俄語和英語科學文本嵌入向量的微型模型，基於 eLibrary 數據訓練，採用對比學習技術。

這是一個基於XLM-RoBERTa架構的預訓練模型，採用掩碼語言建模目標訓練，並在英語和俄語問答數據集上進行了微調。