Bert Base Mongolian Cased

🚀 蒙文大小寫敏感BERT基礎模型

本項目提供了預訓練的蒙文BERT模型，可用於蒙文自然語言處理任務，為相關研究和應用提供了有力支持。

🚀 快速開始

本倉庫包含由 tugstugi、enod 和 sharavsambuu 訓練的預訓練蒙文 BERT 模型。特別感謝 nabar 提供的5倍TPU算力支持。

本倉庫基於以下開源項目構建：google-research/bert、huggingface/pytorch-pretrained-BERT 和 yoheikikuta/bert-japanese。

蒙文BERT官方倉庫鏈接

💻 使用示例

基礎用法

from transformers import pipeline, AutoTokenizer, AutoModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained('tugstugi/bert-base-mongolian-cased', use_fast=False)
model = AutoModelForMaskedLM.from_pretrained('tugstugi/bert-base-mongolian-cased')

## declare task ##
pipe = pipeline(task="fill-mask", model=model, tokenizer=tokenizer)

## example ##
input_  = '[MASK] хот Монгол улсын нийслэл.'

output_ = pipe(input_)
for i in range(len(output_)):
    print(output_[i])

## output ##
# {'sequence': 'Улаанбаатар хот Монгол улсын нийслэл.', 'score': 0.826970100402832, 'token': 281, 'token_str': 'Улаанбаатар'}
# {'sequence': 'Нийслэл хот Монгол улсын нийслэл.', 'score': 0.06551621109247208, 'token': 4059, 'token_str': 'Нийслэл'}
# {'sequence': 'Эрдэнэт хот Монгол улсын нийслэл.', 'score': 0.0264141745865345, 'token': 2229, 'token_str': 'Эрдэнэт'}
# {'sequence': 'Дархан хот Монгол улсын нийслэл.', 'score': 0.017083868384361267, 'token': 1646, 'token_str': 'Дархан'}
# {'sequence': 'УБ хот Монгол улсын нийслэл.', 'score': 0.010854342952370644, 'token': 7389, 'token_str': 'УБ'}

📚 詳細文檔

訓練數據

蒙文維基百科和包含7億個單詞的蒙文新聞數據集 [預訓練流程]

BibTeX引用和引用信息

@misc{mongolian-bert,
  author = {Tuguldur, Erdene-Ochir and Gunchinish, Sharavsambuu and Bataa, Enkhbold},
  title = {BERT Pretrained Models on Mongolian Datasets},
  year = {2019},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/tugstugi/mongolian-bert/}}
}