Student Chat Toxicity Classifier Model

🚀 学生チャット有害性分類器

このモデルは、s-nlp/roberta_toxicity_classifier をファインチューニングしたもので、学生の会話におけるテキストメッセージを有害または無害に分類するように設計されています。学生間の倫理的で前向きなやり取りを促しながら、不正行為の提案、非倫理的なアドバイス、または有害なコミュニケーションを検出し、フラグを立てることに特化しています。

🚀 このHugging Face Spaceでモデルを実際に試してみましょう 🚀

🚀 クイックスタート

このモデルは、教育プラットフォーム、チャットモデレーションツール、および学生用コミュニケーションアプリで使用できます。有害なメッセージを検出し、学生にとって前向きで礼儀正しいチャット環境を促進することを目的としています。

✨ 主な機能

• 不正行為や不正を助長するメッセージを検出します。
• 学生チャット内の有害または非倫理的なアドバイスにフラグを立てます。
• 倫理的で建設的なコミュニケーションを促進します。

📦 インストール

このモデルを使用するには、transformers ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers

📚 ドキュメント

モデル詳細

トレーニング詳細

• データセット：このモデルは、有害 (不正行為の提案、有害なアドバイス) または無害 (前向きで建設的なコミュニケーション) とラベル付けされた学生の会話の例を含むカスタムデータセットでファインチューニングされました。
• 前処理：
  • RobertaTokenizer を使用したトークン化。
  • 一貫した入力長 (max_length=128) のために切り捨てとパディングが適用されます。
• フレームワーク：Hugging Faceの transformers ライブラリ。
• オプティマイザ：AdamW
• 損失関数：CrossEntropyLoss
• エポック数：3 (収束のために調整)

想定される用途

このモデルは、教育プラットフォーム、チャットモデレーションツール、および学生用コミュニケーションアプリに使用されることを想定しています。その目的は、以下の通りです。

1. 不正行為の提案、有害なアドバイス、または非倫理的な推奨事項などの有害なメッセージを検出する。
2. 学生にとって前向きで礼儀正しいチャット環境を促進する。

💻 使用例

基本的な使用法

Gradio APIを使用する場合

from gradio_client import Client

client = Client("Sk1306/Student_Ethics_Chat_Classifier")
result = client.predict(
		text="you can copy in exam to pass!!",
		api_name="/predict"
)
print(result)

モデルをロードする場合

import torch
from transformers import RobertaTokenizer, RobertaForSequenceClassification

# Load the model and tokenizer
model_name = "Sk1306/student_chat_toxicity_classifier_model"
tokenizer = RobertaTokenizer.from_pretrained(model_name)
model = RobertaForSequenceClassification.from_pretrained(model_name)

# Function for toxicity prediction
def predict_toxicity(text):
    # Tokenize the input text
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True, max_length=128)

    # Run the text through the model
    with torch.no_grad():
        outputs = model(**inputs)
    
    # Extract logits and apply softmax to get probabilities
    logits = outputs.logits
    probabilities = torch.nn.functional.softmax(logits, dim=-1)

    # Get the predicted class (0 = Non-Toxic, 1 = Toxic)
    predicted_class = torch.argmax(probabilities, dim=-1).item()
    return "Non-Toxic" if predicted_class == 0 else "Toxic"

# Test the model
message = "You can copy answers during the exam."
prediction = predict_toxicity(message)
print(f"Message: {message}\nPrediction: {prediction}")