Bert Large Mongolian Cased

🚀 BERT-LARGE-MONGOLIAN-CASED

このプロジェクトは、モンゴル語用の事前学習済みBERTモデルを提供します。モデルは、モンゴル語のWikipediaやニュースデータセットを用いて学習されており、様々な自然言語処理タスクに利用できます。

公式のモンゴル語BERTリポジトリへのリンク

🚀 クイックスタート

このリポジトリには、tugstugi、enod、sharavsambuuによって学習された、事前学習済みのモンゴル語のBERTモデルが含まれています。 5倍のTPUを提供してくれたnabarに特別な感謝を申し上げます。

このリポジトリは、以下のオープンソースプロジェクトに基づいています。 google-research/bert、 huggingface/pytorch-pretrained-BERT、 yoheikikuta/bert-japanese。

💻 使用例

基本的な使用法

from transformers import pipeline, AutoTokenizer, AutoModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained('tugstugi/bert-large-mongolian-cased', use_fast=False)
model = AutoModelForMaskedLM.from_pretrained('tugstugi/bert-large-mongolian-cased')

## declare task ##
pipe = pipeline(task="fill-mask", model=model, tokenizer=tokenizer)

## example ##
input_  = 'Монгол улсын [MASK] Улаанбаатар хотоос ярьж байна.'

output_ = pipe(input_)
for i in range(len(output_)):
    print(output_[i])

## output ##
# {'sequence': 'Монгол улсын нийслэл Улаанбаатар хотоос ярьж байна.', 'score': 0.9779232740402222, 'token': 1176, 'token_str': 'нийслэл'}
# {'sequence': 'Монгол улсын Нийслэл Улаанбаатар хотоос ярьж байна.', 'score': 0.015034765936434269, 'token': 4059, 'token_str': 'Нийслэл'}
# {'sequence': 'Монгол улсын Ерөнхийлөгч Улаанбаатар хотоос ярьж байна.', 'score': 0.0021413620561361313, 'token': 325, 'token_str': 'Ерөнхийлөгч'}
# {'sequence': 'Монгол улсын ерөнхийлөгч Улаанбаатар хотоос ярьж байна.', 'score': 0.0008035294013097882, 'token': 1215, 'token_str': 'ерөнхийлөгч'}
# {'sequence': 'Монгол улсын нийслэлийн Улаанбаатар хотоос ярьж байна.', 'score': 0.0006434018723666668, 'token': 356, 'token_str': 'нийслэлийн'}

📚 ドキュメント

学習データ

モンゴル語のWikipediaと7億語のモンゴル語ニュースデータセット [事前学習手順]

BibTeX引用

@misc{mongolian-bert,
  author = {Tuguldur, Erdene-Ochir and Gunchinish, Sharavsambuu and Bataa, Enkhbold},
  title = {BERT Pretrained Models on Mongolian Datasets},
  year = {2019},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/tugstugi/mongolian-bert/}}
}