Burmesebert

🚀 緬甸語Bert模型

緬甸語Bert是一個基於“bert-large-uncased”的雙語掩碼語言模型。它採用了基於Transformer的雙向編碼器表徵架構，支持英語和緬甸語。

🚀 快速開始

安裝依賴

# install the dependencies
pip install transformers

使用示例

from transformers import AutoModelForMaskedLM,AutoTokenizer

model_checkpoint = "jojo-ai-mst/BurmeseBert"
model = AutoModelForMaskedLM.from_pretrained(model_checkpoint)
tokenizer = AutoTokenizer.from_pretrained(model_checkpoint)

text = "This is a great [MASK]."

import torch

inputs = tokenizer(text, return_tensors="pt")
token_logits = model(**inputs).logits
# Find the location of [MASK] and extract its logits
mask_token_index = torch.where(inputs["input_ids"] == tokenizer.mask_token_id)[1]
mask_token_logits = token_logits[0, mask_token_index, :]
# Pick the [MASK] candidates with the highest logits
top_5_tokens = torch.topk(mask_token_logits, 5, dim=1).indices[0].tolist()

for token in top_5_tokens:
    print(f"'>>> {text.replace(tokenizer.mask_token, tokenizer.decode([token]))}'")

✨ 主要特性

• 掩碼填充語言模型
• 緬甸語自然語言理解

📚 詳細文檔

模型詳情

模型描述

模型來源（可選）

• 倉庫：[待補充更多信息]
• 論文（可選）：[待補充更多信息]
• 演示（可選）：[待補充更多信息]

📄 許可證

相關許可證信息待補充。

📝 引用信息

相關引用信息待補充。