Sinhalaberto

🚀 シンハラ語事前学習モデル（SinhalaBERTo）

このモデルは、シンハラ語の分野において重要な価値を持っています。シンハラ語のデータを用いて訓練され、シンハラ語に関連する下流タスクに良好な基礎を提供します。シンハラ語は低リソース言語であり、関連するモデルが少ないため、このモデルの登場はシンハラ語の自然言語処理に新たな発展の機会をもたらします。

🚀 クイックスタート

このモデルは、OSCAR のシンハラ語重複排除データセットで訓練されたやや小さいモデルです。シンハラ語は低リソース言語の一つであり、現在訓練済みのモデルの数は限られています。したがって、これはより多くの下流タスクの訓練を開始する理想的な起点となります。

✨ 主な機能

• シンハラ語のデータを用いて訓練されており、シンハラ語関連のタスクに適しています。
• 低リソースのシンハラ語自然言語処理分野に新しい解決策を提供します。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelWithLMHead, pipeline

model = AutoModelWithLMHead.from_pretrained("keshan/SinhalaBERTo")
tokenizer = AutoTokenizer.from_pretrained("keshan/SinhalaBERTo")

fill_mask = pipeline('fill-mask', model=model, tokenizer=tokenizer)

fill_mask("මම ගෙදර <mask>.")

📚 ドキュメント

モデル仕様

訓練に使用されたモデルは Roberta で、その仕様は以下の通りです。