Chinese Bigbird Mini 1024

🚀 Jiebaを用いたChinese BigBirdモデル

このプロジェクトは、Jiebaを用いてChinese BigBirdモデルを使用する方法を提供します。Jiebaを前処理に利用することで、トークナイズの精度を向上させます。

🚀 クイックスタート

以下のコードは、Jiebaを用いたChinese BigBirdモデルの基本的な使用方法を示しています。

基本的な使用法

import jieba_fast
from transformers import BertTokenizer
from transformers import BigBirdModel
class JiebaTokenizer(BertTokenizer):
    def __init__(
        self, pre_tokenizer=lambda x: jieba_fast.cut(x, HMM=False), *args, **kwargs
    ):
        super().__init__(*args, **kwargs)
        self.pre_tokenizer = pre_tokenizer
    def _tokenize(self, text, *arg, **kwargs):
        split_tokens = []
        for text in self.pre_tokenizer(text):
            if text in self.vocab:
                split_tokens.append(text)
            else:
                split_tokens.extend(super()._tokenize(text))
        return split_tokens
model = BigBirdModel.from_pretrained('Lowin/chinese-bigbird-mini-1024')
tokenizer = JiebaTokenizer.from_pretrained('Lowin/chinese-bigbird-mini-1024')

📚 ドキュメント

このプロジェクトのソースコードは、こちらのGitHubリポジトリで公開されています。

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下で公開されています。