RADAR Vicuna 7B

🚀 RADARモデルカード

RADAR-Vicuna-7Bは、人間の文章コーパス（OpenWebText）と、OpenWebTextに基づいて生成されたAI文章コーパス上で、検出器と言い換え器の間の敵対的学習によって学習されたAI文章検出器です。このモデルは、大規模言語モデルによって生成された文章を検出するのに役立ちます。

✨ 主な機能

ユーザーはこの検出器を使用して、大規模言語モデルによって生成された文章を検出することができます。

📦 インストール

以下のガイドラインを参照して、ダウンロードしたモデルをローカルで実行する方法、またはHuggingface Space上でホストされているAPIサービスを使用する方法を確認してください。

• Google Colabデモ: https://colab.research.google.com/drive/1r7mLEfVynChUUgIfw1r4WZyh9b0QBQdo?usp=sharing
• Huggingface APIドキュメント: https://trustsafeai-radar-ai-text-detector.hf.space/?view=api

📚 ドキュメント

モデルの詳細

• 開発者: TrustSafeAI
• モデルタイプ: トランスフォーマーアーキテクチャ（RoBERTa）に基づくエンコーダ専用の言語モデル
• ライセンス: 非商用ライセンス（Vicuna-7B-v1.1から継承）
• ベースモデル: RoBERTa

モデルのソース

• プロジェクトページ: https://radar.vizhub.ai/
• 論文: https://arxiv.org/abs/2307.03838
• IBMブログ記事: https://research.ibm.com/blog/AI-forensics-attribution

使用方法

この検出器は、Vicuna-7B-v1.1によって生成されたAI文章で学習されています。モデルは非商用利用のみをサポートしているため、ユーザーはこの検出器を商用活動に使用することはできません。

学習パイプライン

我々は、言い換え器と検出器の間の敵対的学習を提案しています。言い換え器の目的は、AI生成文章を人間が書いた文章に似せることであり、検出器の目的は、AI文章を識別する能力を向上させることです。

• (ステップ1) 学習データの準備: 学習前に、OpenWebText内の人間の文章のプレフィックススパンに基づいて、Vicuna-7Bを使用してAI文章を生成します。
• (ステップ2) 言い換え器の更新 学習中、言い換え器はステップ1で生成されたAI文章に対して言い換えを行います。そして、検出器から返される報酬を収集し、Proxy Proximal Optimization損失を使用して言い換え器を更新します。
• (ステップ3) 検出器の更新 検出器は、人間の文章、AI文章、および言い換えられたAI文章に対するロジスティック損失を使用して最適化されます。

詳細については、この論文のセクション3と4を参照してください。

倫理的な考慮事項

我々は、ユーザーがこのツールを使用して、AIによって書かれたコンテンツを大規模かつ慎重に識別することを提案しています。検出結果が証拠として使用される場合、RADARは常に正しい予測を行うことができないため、さらなる検証手順が必要です。