Hebemo Joy

🚀 HebEMO - 現代ヘブライ語の感情認識モデル

HebEMOは、現代ヘブライ語のユーザー生成コンテンツ（UGC）の極性を検出し、感情を抽出するツールです。これは、私たちが収集してラベル付けした独自の新型コロナウイルス関連のデータセットを基に訓練されています。

HebEMOは極性分類で優れた性能を発揮し、加重平均F1スコアが0.96に達しています。感情検出のF1スコアは0.78 - 0.97の間ですが、「驚き」の感情については捕捉能力が低く（F1 = 0.41）、その他の感情と比べると性能が劣っています。これらの結果は、英語モデルと比較しても、現在報告されている最高性能を上回っています。

🚀 クイックスタート

HebEMOモデルは以下の方法で使用できます。

感情認識モデル

オンラインモデルは huggingface spaces で見つけることができ、colab notebook も使用できます。

# !pip install pyplutchik==0.0.7
# !pip install transformers==4.14.1

!git clone https://github.com/avichaychriqui/HeBERT.git
from HeBERT.src.HebEMO import *
HebEMO_model = HebEMO()

HebEMO_model.hebemo(input_path = 'data/text_example.txt')
# return analyzed pandas.DataFrame  

hebEMO_df = HebEMO_model.hebemo(text='החיים יפים ומאושרים', plot=True)

感情分類モデル（極性のみ）

from transformers import AutoTokenizer, AutoModel, pipeline

tokenizer = AutoTokenizer.from_pretrained("avichr/heBERT_sentiment_analysis") #same as 'avichr/heBERT' tokenizer
model = AutoModel.from_pretrained("avichr/heBERT_sentiment_analysis")

# how to use?
sentiment_analysis = pipeline(
    "sentiment-analysis",
    model="avichr/heBERT_sentiment_analysis",
    tokenizer="avichr/heBERT_sentiment_analysis",
    return_all_scores = True
)

sentiment_analysis('אני מתלבט מה לאכול לארוחת צהריים')	
>>>  [[{'label': 'neutral', 'score': 0.9978172183036804},
>>>  {'label': 'positive', 'score': 0.0014792329166084528},
>>>  {'label': 'negative', 'score': 0.0007035882445052266}]]

sentiment_analysis('קפה זה טעים')
>>>  [[{'label': 'neutral', 'score': 0.00047328314394690096},
>>>  {'label': 'possitive', 'score': 0.9994067549705505},
>>>  {'label': 'negetive', 'score': 0.00011996887042187154}]]

sentiment_analysis('אני לא אוהב את העולם')
>>>  [[{'label': 'neutral', 'score': 9.214012970915064e-05}, 
>>>  {'label': 'possitive', 'score': 8.876807987689972e-05}, 
>>>  {'label': 'negetive', 'score': 0.9998190999031067}]]

✨ 主な機能

• 現代ヘブライ語のユーザー生成コンテンツの極性と感情を検出できます。
• 極性分類とほとんどの感情検出タスクで優れた性能を発揮します。
• 独自の新型コロナウイルス関連のデータセットを基に訓練されています。

📚 ドキュメント

感情UGCデータの説明

私たちのUGCデータは、2020年1月から2020年8月までの間に、3つの主要なイスラエルのニュースサイトから収集したニュース記事のコメントを含んでいます。データの総サイズは約150MBで、700万語以上と35万文以上を含んでいます。

約2000の文は、クラウドソーシングメンバー（文ごとに3 - 10人のアノテーター）によって、全体的な感情（極性）と8つの感情：怒り、嫌悪、期待、恐怖、喜び、悲しみ、驚き、信頼についてラベル付けされています。

各感情が文に現れる割合は以下の表の通りです。

性能

感情認識

以上の指標は正クラス（つまり、テキストにその感情が反映されている）の指標です。

感情（極性）分析

感情（極性）分析モデルはAWSでも使用できます！詳細は AWSのgitリポジトリ を参照してください。

📞 お問い合わせ

• Avichay Chriqui
• Inbal yahav
• The Coller Semitic Languages AI Lab

ありがとう！ תודה！ شكرا！

📚 引用方法

このモデルを使用した場合は、以下のように引用してください。 Chriqui, A., & Yahav, I. (2021). HeBERT & HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition. arXiv preprint arXiv:2102.01909.

@article{chriqui2021hebert,
  title={HeBERT \& HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition},
  author={Chriqui, Avihay and Yahav, Inbal},
  journal={arXiv preprint arXiv:2102.01909},
  year={2021}
}