Prompt Saturation Attack Detector

🚀 モデルIDのモデルカード

飽和型ジェイルブレイク攻撃を検出する小型モデルです。他の種類のジェイルブレイクに対しての単独使用を想定していません。

🚀 クイックスタート

このモデルは、飽和型攻撃の一部を事前にフィルタリングするために設計された小型モデルです。

✨ 主な機能

このモデルは、飽和型ジェイルブレイク攻撃を検出する機能を持っています。

📚 ドキュメント

モデルの詳細

モデルの説明

モデルのソース (任意)

• リポジトリ: https://www.github.com/guardrails-ai/detect-jailbreak

用途

飽和型攻撃の一部を事前にフィルタリングする小型モデルとして設計されています。

想定外の使用

他の種類のジェイルブレイクを検出するようには設計されていません。飽和保護は、機械学習システムの不適切な使用に対するより包括的な防御策の一部です。

📄 ライセンス

このモデルのライセンスは制限付きです。