Chinese Bigbird Base 4096

🚀 中文大模型分詞器及模型使用

本項目提供了一個基於jieba_fast的分詞器，結合BigBirdModel模型，可用於中文文本處理。通過自定義分詞器，能夠更好地處理中文文本，同時使用預訓練的BigBirdModel模型進行後續的自然語言處理任務。

🚀 快速開始

以下是使用本項目的代碼示例：

import jieba_fast
from transformers import BertTokenizer
from transformers import BigBirdModel

class JiebaTokenizer(BertTokenizer):
    def __init__(
        self, pre_tokenizer=lambda x: jieba_fast.cut(x, HMM=False), *args, **kwargs
    ):
        super().__init__(*args, **kwargs)
        self.pre_tokenizer = pre_tokenizer

    def _tokenize(self, text, *arg, **kwargs):
        split_tokens = []
        for word in self.pre_tokenizer(text):
            if word in self.vocab:
                split_tokens.append(word)
            else:
                split_tokens.extend(super()._tokenize(word))
        return split_tokens

model = BigBirdModel.from_pretrained('Lowin/chinese-bigbird-base-4096')
tokenizer = JiebaTokenizer.from_pretrained('Lowin/chinese-bigbird-base-4096')

你可以通過以下鏈接訪問項目的GitHub倉庫：https://github.com/LowinLi/chinese-bigbird

📄 許可證

本項目採用Apache-2.0許可證。