Scamllm

🚀 ScamLLM模型

ScamLLM模型專為識別惡意提示而設計，這些提示可能被用於藉助ChatGPT、Bard和Claude等主流商業大語言模型來生成釣魚網站和電子郵件。該模型通過在包含多組惡意提示的數據集上微調預訓練的RoBERTa而得。

🚀 快速開始

你可以通過推理API來試用“ScamLLM”。此模型會將提示分類，“標籤1”表示識別到釣魚企圖，“標籤0”則表示該提示安全無惡意。

✨ 主要特性

• 能夠識別可用於生成釣魚網站和電子郵件的惡意提示。
• 基於預訓練的RoBERTa進行微調，具有良好的性能。

📚 詳細文檔

數據集詳情

用於訓練該模型的數據集是使用GPT 3.5T和GPT - 4生成的惡意提示創建的。由於這些是正在審查的活躍漏洞，目前我們的惡意提示數據集僅接受申請獲取。

訓練詳情

模型使用RobertaForSequenceClassification.from_pretrained進行訓練。在此過程中，使用了與RoBERTa - base相關的模型和分詞器，並進行了10個週期的訓練（學習率為2e - 5，使用AdamW優化器）。

💻 使用示例

基礎用法

from transformers import pipeline
classifier = pipeline(task="text-classification", model="phishbot/ScamLLM", top_k=None)
prompt = ["Your Sample Sentence or Prompt...."]
model_outputs = classifier(prompt)
print(model_outputs[0])

📄 許可證

許可證信息未知。

引用說明

如果你在研究中使用了我們的模型，請引用我們的論文 "From Chatbots to Phishbots?: Phishing Scam Generation in Commercial Large Language Models" (https://www.computer.org/csdl/proceedings-article/sp/2024/313000a221/1WPcYLpYFHy)。

BibTeX引用如下：

@inproceedings{roy2024chatbots,
  title={From Chatbots to Phishbots?: Phishing Scam Generation in Commercial Large Language Models},
  author={Roy, Sayak Saha and Thota, Poojitha and Naragam, Krishna Vamsi and Nilizadeh, Shirin},
  booktitle={2024 IEEE Symposium on Security and Privacy (SP)},
  pages={221--221},
  year={2024},
  organization={IEEE Computer Society}
}