Bert Finetuned Phishing

🚀 BERT針對網絡釣魚檢測的微調模型

本模型是基於bert-large-uncased在網絡釣魚數據集上進行微調的版本，能夠檢測四種最常見形式的網絡釣魚：URL、電子郵件、短信消息，甚至是網站。

🚀 快速開始

該模型能夠檢測網絡釣魚的四種常見形式，在評估集上取得了較好的效果，具體指標如下：

• 損失率：0.1953
• 準確率：0.9717
• 精確率：0.9658
• 召回率：0.9670
• 誤報率：0.0249

✨ 主要特性

模型描述

BERT是一種基於自監督方式在大量英文語料庫上進行預訓練的Transformer模型。這意味著它僅在原始文本上進行預訓練，沒有人工進行任何標註（這就是為什麼它可以使用大量公開可用的數據），並通過自動流程從這些文本中生成輸入和標籤。

該模型具有以下配置：

• 24層
• 1024隱藏維度
• 16個注意力頭
• 3.36億參數

動機與目的

根據多份安全報告，網絡釣魚是最常見且代價最高的網絡攻擊之一。本模型旨在高效、準確地防範針對個人和組織的網絡釣魚攻擊。為此，BERT在包含URL、短信消息、電子郵件和網站的多樣化且強大的數據集上進行訓練，這使得模型的檢測能力超越常規，可在各種場景中使用。

📚 詳細文檔

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：2e - 05
• 訓練批次大小：16
• 評估批次大小：16
• 隨機種子：42
• 優化器：Adam，β值為(0.9, 0.999)，ε值為1e - 08
• 學習率調度器類型：線性
• 訓練輪數：4

訓練結果

框架版本

• Transformers 4.34.1
• Pytorch 2.1.1+cu121
• Datasets 2.14.6
• Tokenizers 0.14.1

📄 許可證

本模型採用Apache - 2.0許可證。