Bert Base Uncased Hatexplain Rationale Two

🚀 文本分類模型

本模型用於將文本分類為“辱罵性（包括仇恨言論和冒犯性言論）”或“正常”。它藉助來自Gab和Twitter的數據進行訓練，並在訓練數據中納入了人工推理依據，以提升性能。此外，該模型還配備了一個推理依據預測頭，能夠針對辱罵性語句預測其推理依據。

🚀 快速開始

模型使用詳情

請使用 models.py 中的 Model_Rational_Label 類來加載模型。由於使用了不同的類初始化方式，此託管推理API中的默認預測可能有誤。

from transformers import AutoTokenizer, AutoModelForSequenceClassification
### from models.py
from models import *
tokenizer = AutoTokenizer.from_pretrained("Hate-speech-CNERG/bert-base-uncased-hatexplain-rationale-two")
model = Model_Rational_Label.from_pretrained("Hate-speech-CNERG/bert-base-uncased-hatexplain-rationale-two")
inputs = tokenizer('He is a great guy", return_tensors="pt")
prediction_logits, _ = model(input_ids=inputs['input_ids'],attention_mask=inputs['attention_mask'])

✨ 主要特性

直接使用

該模型可用於文本分類。

下游使用

[需要更多信息]

誤用和超出適用範圍的使用

該模型不應被用於故意為人們營造敵對或疏離的環境。此外，該模型並非旨在對人物或事件進行事實性或真實性的呈現，因此使用該模型生成此類內容超出了其能力範圍。

📚 詳細文檔

風險、侷限性和偏差

⚠️ 重要提示

讀者應注意，本節包含令人不安、冒犯性的內容，可能會傳播歷史和當前的刻板印象。

大量研究已經探討了語言模型的偏差和公平性問題（例如，參見 Sheng等人（2021） 和 Bender等人（2021））。

模型生成的預測結果可能包含針對受保護類別、身份特徵以及敏感、社會和職業群體的令人不安且有害的刻板印象。例如：示例

模型作者在他們的HateXplain論文中也指出：

未考慮任何外部上下文，如個人資料簡介、用戶性別、發帖歷史等，而這些可能對分類任務有所幫助。此外，本研究僅聚焦於英語，未考慮多語言仇恨言論。

訓練過程

預處理

作者在 Github倉庫 中詳細介紹了他們的預處理步驟。

評估

模型作者在 相關論文 中詳細說明了HateXplain微調模型的隱藏層大小和注意力機制。

結果

模型作者在論文和git倉庫中都提供了BERT - HateXplain與BERT及其他HateXplain微調模型的對比示例輸出 模型對比

引用信息

@article{mathew2020hatexplain,
  title={HateXplain: A Benchmark Dataset for Explainable Hate Speech Detection},
  author={Mathew, Binny and Saha, Punyajoy and Yimam, Seid Muhie and Biemann, Chris and Goyal, Pawan and Mukherjee, Animesh},
  journal={arXiv preprint arXiv:2012.10289},
  year={2020}
}

🔧 技術細節

📄 許可證

本模型使用Apache - 2.0許可證。