Erya

🚀 尔雅（Erya）模型 - 文言文转现代文翻译模型

尔雅（Erya）是一个预训练模型，专为文言文到现代文的翻译任务而设计。它采用了编码器 - 解码器架构，并结合了DMLM（双掩码语言模型）和DAS（双音节对齐替换）技术，在包含文言文和现代文文本的数据集上进行训练。

🚀 快速开始

模型描述

尔雅（Erya）是专门为文言文到现代文翻译而设计的预训练模型。它采用编码器 - 解码器架构，并结合DMLM（双掩码语言模型）和DAS（双音节对齐替换）技术，在包含文言文和现代文文本的数据集上进行训练。我们工作的详细信息可查看：RUCAIBox/Erya (github.com)

有关尔雅（Erya）数据集的更多信息可查看：RUCAIBox/Erya-dataset · Datasets at Hugging Face ，该数据集可用于进一步微调尔雅（Erya）模型，以获得更好的翻译性能。

💻 使用示例

基础用法

>>> from transformers import BertTokenizer, CPTForConditionalGeneration

>>> tokenizer = BertTokenizer.from_pretrained("RUCAIBox/Erya")
>>> model = CPTForConditionalGeneration.from_pretrained("RUCAIBox/Erya")

>>> input_ids = tokenizer("安世字子孺，少以父任为郎。", return_tensors='pt')
>>> input_ids.pop("token_type_ids")

>>> pred_ids = model.generate(max_new_tokens=256, **input_ids)
>>> print(tokenizer.batch_decode(pred_ids, skip_special_tokens=True))
    ['安 世 字 子 孺 ， 年 轻 时 因 父 任 郎 官 。']

📄 许可证

本项目采用Apache-2.0许可证。