Camembert Base Toxic Fr User Prompts

🚀 テキスト分類モデル

このモデルは、フランス語に翻訳されたtoxic-chatデータセットと追加の合成データを用いて、camembert-baseモデルをファインチューニングしたものです。このモデルは、ユーザーのプロンプトを「Toxic」「Non-Toxic」「Sensible」の3つのカテゴリに分類するように学習されています。

🚀 クイックスタート

このモデルは、ユーザーのプロンプトを3つのカテゴリに分類するために使用できます。以下に各カテゴリの説明を示します。

• Toxic: 有害または侮辱的な言葉を含むプロンプト。制限を回避しようとするジェイルブレイキングプロンプトも含まれます。
• Non-Toxic: 安全で有害な内容を含まないプロンプト。
• Sensible: 有毒ではないが、自殺念慮、攻撃性、または敏感な問題に関する助けを求めるなど、本質的に敏感な内容を含むプロンプト。

✨ 主な機能

• ユーザーのプロンプトを3つのカテゴリに分類する機能。
• 評価結果に基づいて、高精度な分類が可能。

📚 ドキュメント

評価結果

評価結果は以下の通りです（まだ評価中で、より多くのデータが必要です）。

⚠️ 重要提示

このモデルはまだ開発中であり、学習が完了していないため、その性能と特性は変更される可能性があります。

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。