Bert Base Romanian Cased V1

🚀 ルーマニア語向けBERTベースモデル（bert-base-romanian-cased-v1）

このモデルは、ルーマニア語用のBERTのベースかつ大文字小文字を区別するモデルです。15GBのコーパスを使って学習され、バージョンはです。

🚀 クイックスタート

使い方

from transformers import AutoTokenizer, AutoModel
import torch
# トークナイザーとモデルをロード
tokenizer = AutoTokenizer.from_pretrained("dumitrescustefan/bert-base-romanian-cased-v1")
model = AutoModel.from_pretrained("dumitrescustefan/bert-base-romanian-cased-v1")
# 文章をトークナイズしてモデルに通す
input_ids = torch.tensor(tokenizer.encode("Acesta este un test.", add_special_tokens=True)).unsqueeze(0)  # バッチサイズ1
outputs = model(input_ids)
# エンコーディングを取得
last_hidden_states = outputs[0]  # 最後の隠れ状態は出力タプルの最初の要素

⚠️ 重要提示

常にテキストをクレンジングするようにしてください！ モデルはセディラ文字の s と t で学習されていないため、次のようにセディラ文字をコンマ付きの文字に置き換えてください。

text = text.replace("ţ", "ț").replace("ş", "ș").replace("Ţ", "Ț").replace("Ş", "Ș")

これを行わないと、<UNK> の影響で性能が低下し、単語ごとのトークン数が増えます。

🔧 評価

評価は、Universal Dependencies Romanian RRT のUPOS、XPOS、LAS、および RONEC に基づくNERタスクで行われます。詳細やここでは示されていないより詳細なテストについては、専用の評価ページを参照してください。

ベースラインは、Multilingual BERT モデル bert-base-multilingual-(un)cased です。この記事を書いている時点では、ルーマニア語で動作する唯一の利用可能なBERTモデルでした。

📚 コーパス

このモデルは、以下のコーパスで学習されています（以下の表の統計はクレンジング後のものです）。

📄 引用

もしこのモデルを研究論文で使用する場合は、以下の論文を引用していただけると幸いです。

Stefan Dumitrescu, Andrei-Marius Avram, and Sampo Pyysalo. 2020. The birth of Romanian BERT. In Findings of the Association for Computational Linguistics: EMNLP 2020, pages 4324–4328, Online. Association for Computational Linguistics.

または、bibtex形式では以下の通りです。

@inproceedings{dumitrescu-etal-2020-birth,
    title = "The birth of {R}omanian {BERT}",
    author = "Dumitrescu, Stefan  and
      Avram, Andrei-Marius  and
      Pyysalo, Sampo",
    booktitle = "Findings of the Association for Computational Linguistics: EMNLP 2020",
    month = nov,
    year = "2020",
    address = "Online",
    publisher = "Association for Computational Linguistics",
    url = "https://aclanthology.org/2020.findings-emnlp.387",
    doi = "10.18653/v1/2020.findings-emnlp.387",
    pages = "4324--4328",
}

謝辞

• v1.0のBERTモデルを事前学習するために必要なコンピューティング資源を提供してくれたTurkuNLPの Sampo Pyysalo に感謝します。彼は本当に素晴らしいです！

📄 ライセンス

このプロジェクトはMITライセンスの下で公開されています。