MITRE V15 Tactic Bert Case Based

🚀 MITRE-v15-tactic-bert-case-based

このモデルは、mitre-bert-base-cased をMITRE ATT&CKバージョン15の手順データセットでファインチューニングしたものです。評価データセットでは、以下の性能を達成しています。

• 損失: 0.057
• 正解率: 0.87

🚀 クイックスタート

このファインチューニングされたモデルは、テキスト分類に使用できます。MITRE ATT&CKフレームワークにおいて、文が属する戦術を特定することを目的としています。文や攻撃は複数の戦術に該当する場合があります。

✨ 主な機能

このモデルは、サイバーセキュリティのテキスト分類に特化してファインチューニングされています。ただし、文が攻撃に関連していない場合、性能が低下する可能性があります。

📦 インストール

このモデルはTensorflowで使用できます。以下のコードを参考にしてください。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
model_id = "sarahwei/MITRE-tactic-bert-case-based"

tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForSequenceClassification.from_pretrained(
    model_id,
    torch_dtype=torch.bfloat16,
    # device_map="auto",
)
question = 'An attacker performs a SQL injection.'
input_ids = tokenizer(question,return_tensors="pt")
outputs = model(**input_ids)
logits = outputs.logits
sigmoid = torch.nn.Sigmoid()
probs = sigmoid(logits.squeeze().cpu())
predictions = np.zeros(probs.shape)
predictions[np.where(probs >= 0.5)] = 1
predicted_labels = [model.config.id2label[idx] for idx, label in enumerate(predictions) if label == 1.0]

📚 ドキュメント

学習パラメータ

• 学習率: 5e-05
• 学習バッチサイズ: 8
• 評価バッチサイズ: 8
• シード: 0
• オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
• 学習率スケジューラーの種類: linear
• エポック数: 10
• ウォームアップ率: 0.01
• 重み減衰: 0.001

学習結果

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。