Bias Detection Model

🚀 英文文の偏見検出モデル

このモデルは英文のシーケンス分類モデルで、文章（ニュース記事）の偏見と公平性を検出し、より客観的なテキスト分析を支援します。

🚀 クイックスタート

この英文のシーケンス分類モデルは、MBADデータセットを使用して訓練され、文章（ニュース記事）の偏見と公平性を検出するために使用されます。このモデルはdistilbert - base - uncasedモデルをベースに構築され、30エポックで訓練され、バッチサイズは16、学習率は5e - 5、最大シーケンス長は512です。

サンプル表示

以下はいくつかのサンプル文章とそのラベルです。

• 偏見ありのサンプル
  • サンプル1：“Nevertheless, Trump and other Republicans have tarred the protests as havens for terrorists intent on destroying property.”
  • サンプル2：“Billie Eilish issues apology for mouthing an anti - Asian derogatory term in a resurfaced video.”
  • サンプル3：“Christians should make clear that the perpetuation of objectionable vaccines and the lack of alternatives is a kind of coercion.”
• 偏見なしのサンプル
  • サンプル1：“There have been a protest by a group of people”
  • サンプル2：“While emphasizing he’s not singling out either party, Cohen warned about the danger of normalizing white supremacist ideology.”

モデル情報

モデルの性能

💻 使用例

基本的な使用法

このモデルを使用する最も簡単な方法は、Hugging Faceから推論APIをロードすることです。もう1つの方法は、transformersライブラリが提供するpipelineオブジェクトを使用することです。

from transformers import AutoTokenizer, TFAutoModelForSequenceClassification
from transformers import pipeline
tokenizer = AutoTokenizer.from_pretrained("d4data/bias-detection-model")
model = TFAutoModelForSequenceClassification.from_pretrained("d4data/bias-detection-model")

classifier = pipeline('text-classification', model=model, tokenizer=tokenizer) # cuda = 0,1 based on gpu availability
classifier("The irony, of course, is that the exhibit that invites people to throw trash at vacuuming Ivanka Trump lookalike reflects every stereotype feminists claim to stand against, oversexualizing Ivanka’s body and ignoring her hard work.")

📄 ライセンス

このモデルは、Deepak John RejiとShaina Razaによる研究課題 “Bias and Fairness in AI” の一部です。この作品（コード、モデル、またはデータセット）を使用する場合は、以下のリンクでいいねをしてください。

Bias & Fairness in AI, (2022), GitHub repository, https://github.com/dreji18/Fairness-in-AI