AIbase
ZH
模型选型
标签
内容安全审核

# 内容安全审核

VISION 1 GGUF
VISION-1是一个基于transformers的内容审核与安全分类模型，专注于文本分类任务。
文本分类 英语
V
mradermacher
153
2
Llama Guard 3 1B
Llama Guard 3-1B是基于Llama-3.2-1B预训练模型微调的内容安全分类模型，用于对LLM输入和响应中的内容进行安全分类。
大型语言模型 Transformers 支持多种语言
L
meta-llama
73.88k
81
Shieldgemma 27b
ShieldGemma是基于Gemma 2构建的一系列安全内容审核模型，针对四种危害类别（性暴露内容、危险内容、仇恨言论和骚扰）进行内容审核。
大型语言模型 Transformers
S
google
65
22
Shieldgemma 2b
ShieldGemma是基于Gemma 2构建的一系列安全内容审核模型，针对四类危害内容（色情、危险内容、仇恨和骚扰）。
大型语言模型 Transformers
S
google
3,107
69
Aegis AI Content Safety LlamaGuard Defensive 1.0
基于Llama Guard参数高效指令调优的内容安全模型，覆盖13个关键安全风险类别
大型语言模型 英语
A
nvidia
973.08k
21
Jailbreak Classifier
Apache-2.0
基于bert-base-uncased微调的文本分类模型，用于检测用户提示中的越狱尝试
文本分类 Transformers 英语
J
jackhhao
7,619
20
AIbase
智启未来，您的人工智能解决方案智库
English简体中文繁體中文にほんご
© 2025AIbase