Tajberto

🚀 TajBERTo：基於塔吉克語訓練的類RoBERTa語言模型

TajBERTo是首個塔吉克語NLP模型，它基於塔吉克語語料訓練，可用於掩碼文本生成等任務，為塔吉克語的自然語言處理提供了有力支持。

🚀 快速開始

你可以使用原始模型進行掩碼文本生成，也可以將其微調以應用於下游任務。

✨ 主要特性

• 是首個塔吉克語NLP模型。
• 可用於掩碼文本生成或微調至下游任務。

📦 安裝指南

文檔未提及具體安裝步驟，故跳過。

💻 使用示例

基礎用法

from transformers import pipeline
fill_mask = pipeline(
    "fill-mask",
    model="muhtasham/TajBERTo",
    tokenizer="muhtasham/TajBERTo"
)
fill_mask("Пойтахти <mask> Душанбе")

# This is the beginning of a beautiful <mask>.

{'score': 0.1952248513698578,
  'sequence': 'Пойтахти шаҳри Душанбе',
  'token': 710,
  'token_str': ' шаҳри'},
 {'score': 0.029092855751514435,
  'sequence': 'Пойтахти дар Душанбе',
  'token': 310,
  'token_str': ' дар'},
 {'score': 0.020065447315573692,
  'sequence': 'Пойтахти Душанбе Душанбе',
  'token': 717,
  'token_str': ' Душанбе'},
 {'score': 0.016725927591323853,
  'sequence': 'Пойтахти Тоҷикистон Душанбе',
  'token': 424,
  'token_str': ' Тоҷикистон'},
 {'score': 0.011400512419641018,
  'sequence': 'Пойтахти аз Душанбе',
  'token': 335,
  'token_str': ' аз'}
  

高級用法

文檔未提及高級用法代碼示例，故跳過。

📚 詳細文檔

數據集

該模型在經過過濾和合並的萊比錫語料庫（Leipzig Corpora）的版本上進行訓練，語料庫鏈接：https://wortschatz.unileipzig.de/en/download/Tajik

模型信息