Hebemo Fear

🚀 HebEMO - 現代ヘブライ語の感情認識モデル

HebEMOは、独自に収集・アノテーションしたCOVID - 19関連のデータセットで学習された、現代ヘブライ語のユーザー生成コンテンツ（UGC）から極性を検出し、感情を抽出するツールです。極性分類においては、加重平均F1スコア=0.96という高い性能を発揮しました。感情検出では、驚きを除いてF1スコアが0.78 - 0.97に達しました（驚きのF1スコアは0.41）。これらの結果は、英語の場合と比較しても、報告されている最高性能を上回っています。

🚀 クイックスタート

HebEMOを使うことで、現代ヘブライ語のUGCから極性と感情を簡単に抽出できます。以下のセクションでは、データの説明、性能、使用方法などについて詳しく説明します。

✨ 主な機能

• 現代ヘブライ語のUGCから極性を検出する。
• UGCから感情を抽出する。
• 高い性能で極性分類と感情検出を行う。

📦 データ説明

感情UGCデータの説明

当社のUGCデータには、2020年1月から2020年8月までに、イスラエルの主要な3つのニュースサイトから収集したニュース記事のコメントが含まれています。データの総サイズは約150MBで、700万語以上、35万文以上が含まれています。

約2000文について、クラウドメンバー（文ごとに3 - 10人のアノテーター）が全体的な感情（極性）と8つの感情（怒り、嫌悪、期待、恐怖、喜び、悲しみ、驚き、信頼）についてアノテーションを行いました。各感情が出現する文の割合は、以下の表に示されています。

🔧 性能

感情認識

上記の指標は、肯定クラス（つまり、感情がテキストに反映されている）に関するものです。

感情分析（極性）

感情（極性）分析モデルはAWS上でも利用できます！詳細については、AWSのgitを参照してください。

💻 使用例

感情認識モデル

オンラインモデルは、huggingface spacesまたはcolab notebookで見ることができます。

# !pip install pyplutchik==0.0.7
# !pip install transformers==4.14.1

!git clone https://github.com/avichaychriqui/HeBERT.git
from HeBERT.src.HebEMO import *
HebEMO_model = HebEMO()

HebEMO_model.hebemo(input_path = 'data/text_example.txt')
# return analyzed pandas.DataFrame  

hebEMO_df = HebEMO_model.hebemo(text='החיים יפים ומאושרים', plot=True)

感情分類モデル（極性のみ）

from transformers import AutoTokenizer, AutoModel, pipeline

tokenizer = AutoTokenizer.from_pretrained("avichr/heBERT_sentiment_analysis") #same as 'avichr/heBERT' tokenizer
model = AutoModel.from_pretrained("avichr/heBERT_sentiment_analysis")

# 使い方
sentiment_analysis = pipeline(
    "sentiment-analysis",
    model="avichr/heBERT_sentiment_analysis",
    tokenizer="avichr/heBERT_sentiment_analysis",
    return_all_scores = True
)

sentiment_analysis('אני מתלבט מה לאכול לארוחת צהריים')	
>>>  [[{'label': 'neutral', 'score': 0.9978172183036804},
>>>  {'label': 'positive', 'score': 0.0014792329166084528},
>>>  {'label': 'negative', 'score': 0.0007035882445052266}]]

sentiment_analysis('קפה זה טעים')
>>>  [[{'label': 'neutral', 'score': 0.00047328314394690096},
>>>  {'label': 'possitive', 'score': 0.9994067549705505},
>>>  {'label': 'negetive', 'score': 0.00011996887042187154}]]

sentiment_analysis('אני לא אוהב את העולם')
>>>  [[{'label': 'neutral', 'score': 9.214012970915064e-05}, 
>>>  {'label': 'possitive', 'score': 8.876807987689972e-05}, 
>>>  {'label': 'negetive', 'score': 0.9998190999031067}]]

📚 連絡先

• Avichay Chriqui
• Inbal yahav
• The Coller Semitic Languages AI Lab
• ありがとう、תודה、شكرا

📄 引用

このモデルを使用した場合は、以下のように引用してください。 Chriqui, A., & Yahav, I. (2022). HeBERT & HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition. INFORMS Journal on Data Science, forthcoming.

@article{chriqui2021hebert,
  title={HeBERT \& HebEMO: a Hebrew BERT Model and a Tool for Polarity Analysis and Emotion Recognition},
  author={Chriqui, Avihay and Yahav, Inbal},
  journal={INFORMS Journal on Data Science},
  year={2022}
}