Hebert NER

🚀 HeBERT: 極性分析と感情認識のための事前学習済みBERT

HeBERTはヘブライ語の事前学習済み言語モデルです。このモデルはGoogleのBERTアーキテクチャに基づいており、BERT-Baseの設定を持っています。

HeBertは3つのデータセットで学習されました：

1. OSCARのヘブライ語版：約9.8GBのデータで、10億語以上の単語と2080万文以上を含んでいます。
2. Wikipediaのヘブライ語ダンプ：約650MBのデータで、6300万語以上の単語と380万文を含んでいます。
3. この研究の目的で収集された感情に関するユーザー生成コンテンツ（UGC）データ（以下に説明）。

🚀 クイックスタート

HeBERTは、ヘブライ語の極性分析や感情認識などのタスクに使用できる事前学習済みモデルです。以下では、主な機能と使い方を紹介します。

✨ 主な機能

固有表現認識 (NER)

このモデルは、文章中の固有表現（人名、組織名、地名など）を分類する能力を持っています。Ben Mordecai and M Elhadad (2005)のラベル付きデータセットでテストされ、F1スコアで評価されています。

その他のタスク

• 感情認識モデル：オンラインモデルはhuggingface spacesまたはcolab notebookで見ることができます。
• センチメント分析
• マスク付き言語モデル（任意の下流タスクに微調整可能）

📦 インストール

本モデルはtransformersライブラリを使用して利用できます。transformersがインストールされていない場合は、以下のコマンドでインストールしてください。

pip install transformers

💻 使用例

基本的な使用法

from transformers import pipeline

# 固有表現認識のパイプラインを作成
NER = pipeline(
    "token-classification",
    model="avichr/heBERT_NER",
    tokenizer="avichr/heBERT_NER",
)
# 文章を入力して固有表現を認識
NER('דויד לומד באוניברסיטה העברית שבירושלים')

📚 ドキュメント

コンタクト

• Avichay Chriqui
• Inbal yahav
• The Coller Semitic Languages AI Lab

引用

このモデルを使用した場合は、以下のように引用してください。 Chriqui, A., & Yahav, I. (2021). HeBERT & HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition. arXiv preprint arXiv:2102.01909.

@article{chriqui2021hebert,
  title={HeBERT \& HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition},
  author={Chriqui, Avihay and Yahav, Inbal},
  journal={arXiv preprint arXiv:2102.01909},
  year={2021}
}

リポジトリ

git