Nepalibert

🚀 NepaliBERT(階段1)

NepaliBERT是基於BERT模型的先進尼泊爾語語言模型。該模型採用掩碼語言建模（MLM）方法進行訓練。

🚀 快速開始

📦 安裝指南

克隆模型倉庫

git lfs install
git clone https://huggingface.co/Rajan/NepaliBERT

加載分詞器

from transformers import BertTokenizer
vocab_file_dir = './NepaliBERT/' 
tokenizer = BertTokenizer.from_pretrained(vocab_file_dir,
                                        strip_accents=False,
                                         clean_text=False )

加載模型

from transformers import BertForMaskedLM
model = BertForMaskedLM.from_pretrained('./NepaliBERT')

💻 使用示例

基礎用法

檢查語言模型是否學到有用信息的最簡單方法是通過FillMaskPipeline。

Pipelines是分詞器和模型的簡單包裝器，'fill-mask'可以讓你輸入包含掩碼標記（這裡是[mask]）的序列，並返回最可能的填充序列列表及其概率。

from transformers import pipeline

fill_mask = pipeline(
    "fill-mask",
    model=model,
    tokenizer=tokenizer
)

📚 詳細文檔

更多信息請訪問 GITHUB🤗