Roberta Classical Chinese Base Sentence Segmentation

🚀 roberta-classical-chinese-base-sentence-segmentation

このモデルは、古典漢文の文章を文分割するために事前学習されたRoBERTaモデルです。roberta-classical-chinese-base-char をベースに派生しています。分割された各文は、トークンクラス "B" で始まり、トークンクラス "E" で終わります（ただし、単一文字の文はトークンクラス "S" となります）。

🚀 クイックスタート

このセクションでは、roberta-classical-chinese-base-sentence-segmentationモデルの基本的な使い方を説明します。

✨ 主な機能

• 古典漢文の文章を文分割することができます。
• 派生元のモデルは roberta-classical-chinese-base-char です。
• 分割された各文は、トークンクラス "B" で始まり、トークンクラス "E" で終わります（ただし、単一文字の文はトークンクラス "S" となります）。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers torch

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer,AutoModelForTokenClassification
tokenizer=AutoTokenizer.from_pretrained("KoichiYasuoka/roberta-classical-chinese-base-sentence-segmentation")
model=AutoModelForTokenClassification.from_pretrained("KoichiYasuoka/roberta-classical-chinese-base-sentence-segmentation")
s="子曰學而時習之不亦説乎有朋自遠方來不亦樂乎人不知而不慍不亦君子乎"
p=[model.config.id2label[q] for q in torch.argmax(model(tokenizer.encode(s,return_tensors="pt"))["logits"],dim=2)[0].tolist()[1:-1]]
print("".join(c+"。" if q=="E" or q=="S" else c for c,q in zip(s,p)))

📚 ドキュメント

モデル情報

参照文献

Koichi Yasuoka: Sentence Segmentation of Classical Chinese Texts Using Transformers and BERT/RoBERTa Models, IPSJ Symposium Series, Vol.2021, No.1 (December 2021), pp.104-109.

📄 ライセンス

このモデルは、Apache 2.0ライセンスの下で提供されています。