Scamllm

🚀 ScamLLM

このモデルは、複数の悪意のあるプロンプトセットを含むデータセットで事前学習されたRoBERTaを微調整することで得られます。このモデルを使用することで、フィッシングサイトやフィッシングメールの作成につながる悪意のあるプロンプトを分類することができます。

🚀 クイックスタート

私たちのモデル「ScamLLM」は、ChatGPT、Bard、Claudeなどの人気の商用大規模言語モデル（LLM）を使ってフィッシングサイトやメールを生成するために利用される悪意のあるプロンプトを識別するように設計されています。このモデルは、複数の悪意のあるプロンプトセットを含むデータセットで事前学習されたRoBERTaを微調整することで得られます。

推論APIを使用して「ScamLLM」を試してみてください。当モデルは、プロンプトを分類し、「Label 1」はフィッシング試みを識別したことを示し、「Label 0」は安全で悪意のないと見なされるプロンプトを示します。

✨ 主な機能

• 商用LLMを利用したフィッシングサイトやメール生成用の悪意のあるプロンプトを識別します。
• 推論APIを使用して簡単に試すことができます。

📦 インストール

このセクションでは、具体的なインストール手順が提供されていないため、省略します。

💻 使用例

基本的な使用法

from transformers import pipeline
classifier = pipeline(task="text-classification", model="phishbot/ScamLLM", top_k=None)
prompt = ["Your Sample Sentence or Prompt...."]
model_outputs = classifier(prompt)
print(model_outputs[0])

📚 ドキュメント

データセットの詳細

このモデルの学習に使用されたデータセットは、GPT 3.5TとGPT - 4を使用して生成された悪意のあるプロンプトを用いて作成されています。現在レビュー中のアクティブな脆弱性のため、私たちの悪意のあるプロンプトのデータセットは現段階ではリクエストに応じてのみ提供されます。

学習の詳細

モデルはRobertaForSequenceClassification.from_pretrainedを使用して学習されました。このプロセスでは、RoBERTa - baseに関連するモデルとトークナイザーの両方が使用され、10エポック（学習率2e - 5、AdamWオプティマイザー）で学習されました。

推論

このモデルをテストする方法は複数ありますが、最も簡単なのは推論APIを使用することです。また、以下のように「text - classification」パイプラインを使用することもできます。

引用

もしあなたの研究で私たちのモデルを使用する場合は、以下の論文を引用してください。 "From Chatbots to Phishbots?: Phishing Scam Generation in Commercial Large Language Models" (https://www.computer.org/csdl/proceedings-article/sp/2024/313000a221/1WPcYLpYFHy)

BibTeXは以下の通りです。

  title={From Chatbots to Phishbots?: Phishing Scam Generation in Commercial Large Language Models},
  author={Roy, Sayak Saha and Thota, Poojitha and Naragam, Krishna Vamsi and Nilizadeh, Shirin},
  booktitle={2024 IEEE Symposium on Security and Privacy (SP)},
  pages={221--221},
  year={2024},
  organization={IEEE Computer Society}
}

📄 ライセンス

ライセンス情報は不明です。