Wobert Chinese Base

🚀 WoBERT項目介紹

WoBERT是基於詞的中文BERT模型，本項目提供了該模型的tf版本和pytorch版本的相關鏈接，同時介紹了安裝和使用方法。

🚀 快速開始

本項目提供了WoBERT模型的不同版本鏈接，方便用戶使用：

• tf版本：https://github.com/ZhuiyiTechnology/WoBERT
• pytorch版本：https://github.com/JunnYu/WoBERT_pytorch

📦 安裝指南

主要為了安裝WoBertTokenizer，需要注意transformers版本需要 >= 4.7.0。由於WoBertTokenizer的實現與RoFormerTokenizer是一樣的，因此使用RoFormerTokenizer即可。

💻 使用示例

基礎用法

import torch
from transformers import BertForMaskedLM as WoBertForMaskedLM
from transformers import RoFormerTokenizer as WoBertTokenizer

pretrained_model_or_path_list = [
    "junnyu/wobert_chinese_plus_base", "junnyu/wobert_chinese_base"
]
for path in pretrained_model_or_path_list:
    text = "今天[MASK]很好，我[MASK]去公園玩。"
    tokenizer = WoBertTokenizer.from_pretrained(path)
    model = WoBertForMaskedLM.from_pretrained(path)
    inputs = tokenizer(text, return_tensors="pt")
    with torch.no_grad():
        outputs = model(**inputs).logits[0]
    outputs_sentence = ""
    for i, id in enumerate(tokenizer.encode(text)):
        if id == tokenizer.mask_token_id:
            tokens = tokenizer.convert_ids_to_tokens(outputs[i].topk(k=5)[1])
            outputs_sentence += "[" + "||".join(tokens) + "]"
        else:
            outputs_sentence += "".join(
                tokenizer.convert_ids_to_tokens([id],
                                                skip_special_tokens=True))
    print(outputs_sentence)
# RoFormer    今天[天氣||天||心情||陽光||空氣]很好，我[想||要||打算||準備||喜歡]去公園玩。
# PLUS WoBERT 今天[天氣||陽光||天||心情||空氣]很好，我[想||要||打算||準備||就]去公園玩。
# WoBERT      今天[天氣||陽光||天||心情||空氣]很好，我[想||要||就||準備||也]去公園玩。

📄 引用

如果您使用了本項目，請按照以下格式進行引用：

@techreport{zhuiyiwobert,
  title={WoBERT: Word-based Chinese BERT model - ZhuiyiAI},
  author={Jianlin Su},
  year={2020},
  url="https://github.com/ZhuiyiTechnology/WoBERT",
}