Q

Qwenguard V1.2 7B

AIML-TUDAによって開発
QwenGuardは視覚安全保護モデルで、提供された安全戦略に基づいて画像を評価し、安全評価、安全カテゴリ及び評価根拠を出力します。
ダウンロード数 14
リリース時間 : 5/12/2025

モデル概要

Qwen/Qwen2.5-VL-7B-Instructを基に構築された視覚安全保護モデルで、評価根拠の推論能力が向上しており、主に画像コンテンツの安全評価に使用されます。

モデル特徴

視覚安全評価
安全戦略に基づいて画像コンテンツを評価し、潜在的な安全リスクを識別可能
多カテゴリ分類
憎悪コンテンツ、暴力行為など9種類の安全カテゴリ評価をサポート
構造化出力
標準化されたJSON形式で評価結果を出力、評価、カテゴリ及び根拠を含む
推論能力強化
評価根拠の推論能力がベースモデル比で向上

モデル能力

画像コンテンツ分析
安全リスク評価
多カテゴリ分類
構造化結果出力

使用事例

コンテンツ審査
ソーシャルメディアコンテンツ審査
ソーシャルメディアプラットフォーム上の違反画像コンテンツを自動検出
憎悪、暴力等の不安全コンテンツを識別
教育コンテンツフィルタリング
教材中の画像が学生視聴に適しているか評価
教育コンテンツが安全基準に準拠していることを保証
安全研究
視覚安全研究
画像コンテンツ安全評価の方法と技術を研究するために使用
解釈可能な安全評価根拠を提供
AIbase
未来を切り開く、あなたのAIソリューション知識ベース
© 2025AIbase