Roberta Classical Chinese Large Sentence Segmentation

🚀 roberta-classical-chinese-large-sentence-segmentation

這是一個基於預訓練的RoBERTa模型，專門用於文言文句子分割，為文言文文本處理提供了高效準確的解決方案。

🚀 快速開始

本模型是在文言文文本上預訓練的RoBERTa模型，用於句子分割，它源自 roberta-classical-chinese-large-char。每個分割後的句子以標記類別 "B" 開頭，以標記類別 "E" 結尾（單字符句子的標記類別為 "S"）。

📦 安裝指南

暫未提供相關安裝步驟。

💻 使用示例

基礎用法

import torch
from transformers import AutoTokenizer,AutoModelForTokenClassification
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-classical-chinese-large-sentence-segmentation")
model=AutoModelForTokenClassification.from_pretrained("KoichiYasuoka/roberta-classical-chinese-large-sentence-segmentation")
s="子曰學而時習之不亦説乎有朋自遠方來不亦樂乎人不知而不慍不亦君子乎"
p=[model.config.id2label[q] for q in torch.argmax(model(tokenizer.encode(s,return_tensors="pt"))["logits"],dim=2)[0].tolist()[1:-1]]
print("".join(c+"。" if q=="E" or q=="S" else c for c,q in zip(s,p)))

📚 詳細文檔

引用信息

Koichi Yasuoka: Sentence Segmentation of Classical Chinese Texts Using Transformers and BERT/RoBERTa Models, IPSJ Symposium Series, Vol.2021, No.1 (December 2021), pp.104-109.

📄 許可證

本項目採用 "apache - 2.0" 許可證。