Math Roberta

🚀 用于数学学习环境中NLP任务的Math - RoBerta

本模型是经过微调的RoBERTa - large，使用8块Nvidia RTX 1080Ti GPU，基于学生和辅导员在Algebra Nation（https://www.mathnation.com/）上发布的300万条数学讨论帖子进行训练。MathRoBERTa有24层，3.55亿个参数，发布的模型权重占用高达1.5GB的磁盘空间。它有望在类似的数学学习环境中，为NLP相关任务（如文本分类、语义搜索、问答）提供良好的基础性能。

🚀 快速开始

如何在HuggingFace中使用它处理文本

from transformers import RobertaTokenizer, RobertaModel
tokenizer = RobertaTokenizer.from_pretrained('uf-aice-lab/math-roberta')
model = RobertaModel.from_pretrained('uf-aice-lab/math-roberta')
text = "Replace me by any text you'd like."
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

💻 使用示例

基础用法

from transformers import RobertaTokenizer, RobertaModel
tokenizer = RobertaTokenizer.from_pretrained('uf-aice-lab/math-roberta')
model = RobertaModel.from_pretrained('uf-aice-lab/math-roberta')
text = "Replace me by any text you'd like."
encoded_input = tokenizer(text, return_tensors='pt')
output = model(**encoded_input)

📄 许可证

本项目采用MIT许可证。

📦 模型信息