Roberta Argument

🚀 RoBERTArg模型

RoBERTArg模型可用於將文本分類為“非論點”和“論點”兩類，它基於約25k條有爭議話題的人工標註句子進行訓練，能在論點挖掘領域發揮一定作用。

🚀 快速開始

本模型可作為深入探索論點挖掘這一令人興奮領域的起點。不過需要注意，由於論點結構複雜且存在多種依賴關係，模型在訓練集未涵蓋的不同主題和文本類型上的表現可能欠佳。

✨ 主要特性

• 該模型在約25k條有爭議話題的人工標註句子上進行訓練，能夠將文本分類為非論點（0）和論點（1）兩個標籤。
• 訓練數據集聚焦於八個有爭議的話題，包括墮胎、校服、死刑、大麻合法化、核能、克隆、槍支管制和最低工資。

📚 詳細文檔

🤖 模型描述

此模型在約25k條有爭議話題的異構人工標註句子（📚 Stab等人，2018）上進行訓練，用於將文本分類為以下兩個標籤之一：🏷 非論點（0）和論點（1）。

🗃 數據集

該數據集（📚 Stab等人，2018）包含約11k條論點，如果句子包含支持或反對某個話題的相關理由，則將其歸為論點；若不包含理由，則歸為約14k條的非論點。作者專注於有爭議的話題，即那些“對可能的結果有明顯極性”的話題，並整理出了八個有爭議話題的最終集合：墮胎、校服、死刑、大麻合法化、核能、克隆、槍支管制和最低工資。

🏃🏼‍♂️ 模型訓練

RoBERTArg是在HuggingFace的RoBERTA（基礎版）預訓練模型上進行微調的，使用HuggingFace訓練器，並採用了以下超參數：

training_args = TrainingArguments(
    num_train_epochs=2,
    learning_rate=2.3102e-06,
    seed=8,
    per_device_train_batch_size=64,
    per_device_eval_batch_size=64,
)

📊 評估

該模型在評估集（20%）上進行了評估：

再次使用評估集展示混淆矩陣：

⚠️ 預期用途與潛在限制

該模型僅能作為深入探索論點挖掘這一令人興奮領域的起點。但需注意，論點是一種複雜的結構，存在多種依賴關係。因此，該模型在訓練集未涵蓋的不同主題和文本類型上的表現可能欠佳。

🐦 推特：@chklamm