S

Shieldgemma 2b

由google開發
ShieldGemma是基於Gemma 2構建的一系列安全內容審核模型,針對四類危害內容(色情、危險內容、仇恨和騷擾)。
下載量 3,107
發布時間 : 7/16/2024

模型概述

ShieldGemma是僅解碼器的大型語言模型,支持英文,開放權重,提供3種規模:2B、9B和27B參數,用於安全內容審核。

模型特點

多危害類型審核
針對色情、危險內容、仇恨和騷擾四類危害內容進行審核
多規模選擇
提供2B、9B和27B三種參數規模的模型選擇
靈活應用
支持僅提示內容分類和提示-響應內容分類兩種應用模式

模型能力

文本分類
內容安全審核
危害內容檢測

使用案例

內容安全
用戶輸入過濾
檢測用戶輸入是否包含危害內容
識別並過濾危險、仇恨、騷擾等不當內容
模型輸出過濾
檢測AI生成內容是否違反安全策略
確保AI輸出符合安全規範
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase