Tajberto

🚀 TajBERTo: タジク語で学習されたRoBERTaライクな言語モデル

TajBERToは、タジク語で初めて開発されたNLPモデルで、RoBERTaに似たアーキテクチャを持ち、タジク語の言語理解や生成タスクに役立ちます。

🚀 クイックスタート

TajBERToは、タジク語で学習されたRoBERTaライクな言語モデルです。このモデルは、タジク語のマスク付き言語モデリングタスクに使用できます。

✨ 主な機能

• タジク語の初のNLPモデルです。
• マスク付きテキスト生成に使用できます。
• 下流タスクに微調整することも可能です。

📦 インストール

このセクションでは、具体的なインストール手順が提供されていないため、スキップします。

💻 使用例

基本的な使用法

from transformers import pipeline
fill_mask = pipeline(
    "fill-mask",
    model="muhtasham/TajBERTo",
    tokenizer="muhtasham/TajBERTo"
)
fill_mask("Пойтахти <mask> Душанбе")

# This is the beginning of a beautiful <mask>.

{'score': 0.1952248513698578,
  'sequence': 'Пойтахти шаҳри Душанбе',
  'token': 710,
  'token_str': ' шаҳри'},
 {'score': 0.029092855751514435,
  'sequence': 'Пойтахти дар Душанбе',
  'token': 310,
  'token_str': ' дар'},
 {'score': 0.020065447315573692,
  'sequence': 'Пойтахти Душанбе Душанбе',
  'token': 717,
  'token_str': ' Душанбе'},
 {'score': 0.016725927591323853,
  'sequence': 'Пойтахти Тоҷикистон Душанбе',
  'token': 424,
  'token_str': ' Тоҷикистон'},
 {'score': 0.011400512419641018,
  'sequence': 'Пойтахти аз Душанбе',
  'token': 335,
  'token_str': ' аз'}

📚 ドキュメント

データセット

このモデルは、Leipzig Corporaのフィルタリングされたマージバージョンで学習されました。Leipzig Corpora

想定される用途

生のモデルをマスク付きテキスト生成に使用するか、下流タスクに微調整することができます。

🔧 技術詳細

このセクションでは、具体的な技術詳細が提供されていないため、スキップします。

📄 ライセンス

このセクションでは、ライセンス情報が提供されていないため、スキップします。