Dutch Sarcasm Detector

🚀 オランダ語皮肉検出器

オランダ語皮肉検出器は、ニュース記事のタイトルから皮肉を検出するために構築されたテキスト分類モデルです。このモデルは GroNLP/bert-base-dutch-cased をファインチューニングしており、学習データはKaggleで入手可能な既製のデータセットと、オランダの皮肉新聞（De Speld）からスクレイピングしたデータで構成されています。

ラベル: 0 -> 皮肉ではない; 1 -> 皮肉

📚 詳細ドキュメント

ソースデータ

データセット:

• オランダ語の非皮肉データ: Kaggle: Dutch News Articles

スクレイピングしたデータ:

• De Speld からのオランダ語の皮肉ニュース

学習データセット

• helinivan/sarcasm_headlines_multilingual

コードベース

• Gitリポジトリ: 公式リポジトリ

💻 使用例

基本的な使用法

from transformers import AutoModelForSequenceClassification
from transformers import AutoTokenizer
import string

def preprocess_data(text: str) -> str:
   return text.lower().translate(str.maketrans("", "", string.punctuation)).strip()

MODEL_PATH = "helinivan/dutch-sarcasm-detector"

tokenizer = AutoTokenizer.from_pretrained(MODEL_PATH)
model = AutoModelForSequenceClassification.from_pretrained(MODEL_PATH)

text = "We deden een man een nacht in een vat met cola en nu is hij dood"
tokenized_text = tokenizer([preprocess_data(text)], padding=True, truncation=True, max_length=256, return_tensors="pt")
output = model(**tokenized_text)
probs = output.logits.softmax(dim=-1).tolist()[0]
confidence = max(probs)
prediction = probs.index(confidence)
results = {"is_sarcastic": prediction, "confidence": confidence}

出力:

{'is_sarcastic': 1, 'confidence': 0.8915400505065918}

📊 性能