Voice Safety Classifier

🚀 大規模分類モデル

このモデルは、手動で選別された実世界のデータセットで学習された大規模分類モデルです。毒性検出と分類の研究を進めるための新しいベンチマークとして利用できます。

🚀 クイックスタート

このモデルは、WavLM base plus の元の重みから始め、2,374時間のボイスチャット音声クリップを使って多ラベル分類のために微調整されました。音声クリップは、ブログ記事で説明されている合成データパイプラインを使用して自動的にラベル付けされています。単一の出力には複数のラベルが含まれることがあります。

モデルはn×6の出力テンソルを出力し、推論されるラベルは Profanity、DatingAndSexting、Racist、Bullying、Other、NoViolation です。Other は、薬物やアルコール、自傷行為などの発生率の低いポリシー違反カテゴリが1つのカテゴリにまとめられたものです。

このモデルは、人間によって注釈付けされた合計9,795サンプルのデータセットで評価されました。評価データセットには "other" カテゴリは含まれていません。

すべてのクラスに同じ閾値を設定し、モデルを4つの毒性クラス (Profanity、DatingAndSexting、Racist、Bullying) 全体の2値分類器として扱うと、2値化された平均適合率は94.48%になります。適合率-再現率曲線は以下の通りです。

📦 インストール

推論ファイルの依存関係は以下のようにインストールできます。

pip install -r requirements.txt

💻 使用例

基本的な使用法

推論ファイルには、音声ファイルを適切に推論するための前処理を行う便利なヘルパー関数が含まれています。推論ファイルを実行するには、以下のコマンドを実行してください。

python inference.py --audio_file <your audio file path> --model_path <path to Huggingface model>

モデルの重みは、こちらのモデルリリースページからダウンロードするか、roblox/voice-safety-classifier のHuggingFaceから取得できます。model_path が指定されていない場合、モデルは直接HuggingFaceからロードされます。

📄 ライセンス

このプロジェクトはCC BY-SA 3.0ライセンスの下で提供されています。