Realise For Csc

🚀 ReaLiSe-for-csc

ReaLiSe-for-csc 是一个中文拼写纠错（Chinese Spell Checking, CSC）模型，该模型源于 ReaLiSe 源码提供的模型。它能有效识别并纠正中文文本中的拼写错误，提升文本的准确性和质量。

🚀 快速开始

你可以点击下面的按钮在 Colab 中快速体验本模型：

✨ 主要特性

• 源于经典：基于 ReaLiSe 源码提供的模型，具有可靠的技术基础。
• 效果显著：在 SIGHAN2015 数据集上有良好的表现，能准确检测和纠正中文拼写错误。

📦 安装指南

安装模型所需的依赖：

!pip install transformers
!pip install pypinyin
!pip install boto3

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)
model = AutoModel.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)

inputs = tokenizer(["我是炼习时长两念半的个人练习生蔡徐坤"], return_tensors='pt')
output_hidden = model(**inputs).logits
print(''.join(tokenizer.convert_ids_to_tokens(output_hidden.argmax(-1)[0, 1:-1])))

输出：

我是练习时长两年半的个人练习生蔡徐坤

高级用法

你也可以使用本模型封装的predict方法：

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)
model = AutoModel.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)

model.set_tokenizer(tokenizer)  # 使用predict方法前，调用该方法
print(model.predict("我是练习时长两念半的鸽仁练习生蔡徐坤"))
print(model.predict(["我是练习时长两念半的鸽仁练习生蔡徐坤", "喜换唱跳、rap 和 蓝球"]))

输出：

我是练习时长两年半的各仁练习生蔡徐坤
['我是练习时长两年半的各仁练习生蔡徐坤', '喜欢唱跳、rap 和 蓝球']

📚 详细文档

模型表现

本模型在 SIGHAN2015 上的表现如下：

模型训练

from transformers import AutoTokenizer, AutoModel

tokenizer = AutoTokenizer.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)
model = AutoModel.from_pretrained("iioSnail/ReaLiSe-for-csc", trust_remote_code=True)

inputs = tokenizer(["我是炼习时长两念半的个人练习生蔡徐坤", "喜换唱跳rap蓝球"],
                   text_target=["我是练习时长两年半的个人练习生蔡徐坤", "喜欢唱跳rap篮球"],
                   padding=True,
                   return_tensors='pt')
loss = model(**inputs).loss
print("loss:", loss)
loss.backward()

输出：

loss: tensor(0.6515, grad_fn=<NllLossBackward0>)

常见问题

1. 网络问题，例如：Connection Error

   • 解决方案：将模型下载到本地使用。批量下载方案可参考该博客

2. 将模型下载到本地使用时出现报错：ModuleNotFoundError: No module named 'transformers_modules.iioSnail/ReaLiSe-for-csc'

   • 解决方案：将 iioSnail/ChineseBERT-for-csc 改为 iioSnail\ChineseBERT-for-csc，或升级transformers

📄 许可证

本项目采用 AFL-3.0 许可证。