Bert Base Mongolian Cased

🚀 BERT-BASE-MONGOLIAN-CASED

このプロジェクトは、モンゴル語用の事前学習済みBERTモデルを提供します。これにより、モンゴル語の自然言語処理タスクをより効果的に行うことができます。

公式モンゴル語BERTリポジトリへのリンク

🚀 クイックスタート

このリポジトリには、tugstugi、enod、sharavsambuuによって訓練された、事前学習済みのモンゴル語BERTモデルが含まれています。 5倍のTPUを提供してくれたnabarに特別な感謝を申し上げます。

このリポジトリは、以下のオープンソースプロジェクトに基づいています。 google-research/bert、 huggingface/pytorch-pretrained-BERT、 yoheikikuta/bert-japanese。

💻 使用例

基本的な使用法

from transformers import pipeline, AutoTokenizer, AutoModelForMaskedLM

tokenizer = AutoTokenizer.from_pretrained('tugstugi/bert-base-mongolian-cased', use_fast=False)
model = AutoModelForMaskedLM.from_pretrained('tugstugi/bert-base-mongolian-cased')

## declare task ##
pipe = pipeline(task="fill-mask", model=model, tokenizer=tokenizer)

## example ##
input_  = '[MASK] хот Монгол улсын нийслэл.'

output_ = pipe(input_)
for i in range(len(output_)):
    print(output_[i])

## output ##
# {'sequence': 'Улаанбаатар хот Монгол улсын нийслэл.', 'score': 0.826970100402832, 'token': 281, 'token_str': 'Улаанбаатар'}
# {'sequence': 'Нийслэл хот Монгол улсын нийслэл.', 'score': 0.06551621109247208, 'token': 4059, 'token_str': 'Нийслэл'}
# {'sequence': 'Эрдэнэт хот Монгол улсын нийслэл.', 'score': 0.0264141745865345, 'token': 2229, 'token_str': 'Эрдэнэт'}
# {'sequence': 'Дархан хот Монгол улсын нийслэл.', 'score': 0.017083868384361267, 'token': 1646, 'token_str': 'Дархан'}
# {'sequence': 'УБ хот Монгол улсын нийслэл.', 'score': 0.010854342952370644, 'token': 7389, 'token_str': 'УБ'}

📚 ドキュメント

訓練データ

モンゴル語のウィキペディアと7億語のモンゴル語ニュースデータセット [事前学習手順]

BibTeXエントリと引用情報

@misc{mongolian-bert,
  author = {Tuguldur, Erdene-Ochir and Gunchinish, Sharavsambuu and Bataa, Enkhbold},
  title = {BERT Pretrained Models on Mongolian Datasets},
  year = {2019},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/tugstugi/mongolian-bert/}}
}