Sikuroberta

🚀 SikuBERT

SikuBERT是基于BERT架构构建的预训练语言模型，使用高质量的《四库全书》全文语料库训练，可用于古汉语的智能处理任务，为数字人文研究提供有力支持。

🚀 快速开始

模型描述

数字人文研究需要大规模语料库和高性能古汉语自然语言处理工具的支持。预训练语言模型极大地提高了英文和现代汉语文本挖掘的准确性。目前，迫切需要一个专门用于古文本自动处理的预训练模型。我们使用经过验证的高质量“四库全书”全文语料库作为训练集，基于BERT深度语言模型架构，构建了用于古汉语智能处理任务的SikuBERT和SikuRoBERTa预训练语言模型。

使用示例

基础用法

from transformers import AutoTokenizer, AutoModel
tokenizer = AutoTokenizer.from_pretrained("SIKU-BERT/sikuroberta")
model = AutoModel.from_pretrained("SIKU-BERT/sikuroberta")

👥 关于我们

我们来自南京农业大学。

由 SIKU-BERT 创建

📄 许可证

本项目采用Apache-2.0许可证。