Text Moderation

🚀 文本審核模型

本模型是一個基於Deberta - v3的文本分類模型，用於預測文本是否包含可能被視為冒犯性的內容。它為文本審核任務提供了高效且準確的解決方案。

🚀 快速開始

本模型是基於Deberta - v3的文本分類模型，用於預測文本是否包含可能被視為冒犯性的內容。它將文本分為以下幾類標籤：

需要注意的是，該模型僅在英文文本上進行了訓練，對於非英文輸入可能表現不佳。

✨ 主要特性

• 多類別分類：能夠對文本進行多類別分類，涵蓋色情、仇恨、暴力等多種冒犯性內容類別。
• 基於Deberta - v3：利用Deberta - v3的強大語言理解能力，提高分類的準確性。

📦 安裝指南

本模型可通過以下方式使用：

使用cURL訪問

$ curl -X POST -H "Authorization: Bearer YOUR_API_KEY" -H "Content-Type: application/json" -d '{"inputs": "I love AutoTrain"}' https://api-inference.huggingface.co/models/KoalaAI/Text-Moderation

使用Python API

from transformers import AutoModelForSequenceClassification, AutoTokenizer

# 加載模型和分詞器
model = AutoModelForSequenceClassification.from_pretrained("KoalaAI/Text-Moderation")
tokenizer = AutoTokenizer.from_pretrained("KoalaAI/Text-Moderation")

# 在輸入上運行模型
inputs = tokenizer("I love AutoTrain", return_tensors="pt")
outputs = model(**inputs)

# 獲取預測的對數幾率
logits = outputs.logits

# 應用softmax函數獲取概率（分數）
probabilities = logits.softmax(dim=-1).squeeze()

# 獲取標籤
id2label = model.config.id2label
labels = [id2label[idx] for idx in range(len(probabilities))]

# 組合標籤和概率，然後排序
label_prob_pairs = list(zip(labels, probabilities))
label_prob_pairs.sort(key=lambda item: item[1], reverse=True)  

# 打印排序後的結果
for label, probability in label_prob_pairs:
    print(f"Label: {label} - Probability: {probability:.4f}") 

💻 使用示例

基礎用法

from transformers import AutoModelForSequenceClassification, AutoTokenizer

# 加載模型和分詞器
model = AutoModelForSequenceClassification.from_pretrained("KoalaAI/Text-Moderation")
tokenizer = AutoTokenizer.from_pretrained("KoalaAI/Text-Moderation")

# 在輸入上運行模型
inputs = tokenizer("I love AutoTrain", return_tensors="pt")
outputs = model(**inputs)

# 獲取預測的對數幾率
logits = outputs.logits

# 應用softmax函數獲取概率（分數）
probabilities = logits.softmax(dim=-1).squeeze()

# 獲取標籤
id2label = model.config.id2label
labels = [id2label[idx] for idx in range(len(probabilities))]

# 組合標籤和概率，然後排序
label_prob_pairs = list(zip(labels, probabilities))
label_prob_pairs.sort(key=lambda item: item[1], reverse=True)  

# 打印排序後的結果
for label, probability in label_prob_pairs:
    print(f"Label: {label} - Probability: {probability:.4f}") 

上述Python代碼的輸出如下：

Label: OK - Probability: 0.9840
Label: H - Probability: 0.0043
Label: SH - Probability: 0.0039
Label: V - Probability: 0.0019
Label: S - Probability: 0.0018
Label: HR - Probability: 0.0015
Label: V2 - Probability: 0.0011
Label: S3 - Probability: 0.0010
Label: H2 - Probability: 0.0006

📚 詳細文檔

倫理考量

這是一個處理敏感且可能有害語言的模型。用戶在其應用程序或場景中使用或部署此模型時，應考慮其倫理影響和潛在風險。可能出現的一些倫理問題包括：

• 模型可能會強化或放大數據或社會中現有的偏見或刻板印象。例如，模型可能基於數據中的頻率或共現情況，將某些詞語或主題與冒犯性語言關聯起來，而不考慮其背後的含義或意圖。這可能導致對某些群體或個人的預測不公平或不準確。

用戶應仔細考慮使用此模型的目的、背景和影響，並採取適當措施防止或減輕任何潛在危害。用戶還應尊重數據主體的隱私和同意，並遵守其所在司法管轄區的相關法律法規。

許可證

本模型遵循CodeML OpenRAIL - M 0.1許可證，這是BigCode OpenRAIL - M許可證的一個變體。此許可證允許您自由訪問、使用、修改和分發此模型及其派生產品，用於研究、商業或非商業目的，但需遵守以下條件：

• 您必須在分發的模型副本或派生產品中包含許可證副本和模型的原始來源。
• 您不得將模型或其派生產品用於任何非法、有害、濫用、歧視性或冒犯性目的，或導致或促成任何社會或環境危害。
• 您必須尊重用於訓練或評估模型的數據主體的隱私和同意，並遵守您所在司法管轄區的相關法律法規。
• 您必須承認模型及其派生產品是“按原樣”提供的，沒有任何形式的保證或擔保，並且許可方不對您使用模型或其派生產品所產生的任何損害或損失負責。

通過訪問或使用此模型，即表示您同意受此許可證條款的約束。如果您不同意此許可證的條款，則不得訪問或使用此模型。

訓練詳情

• 問題類型：多類別分類
• 二氧化碳排放量（克）：0.0397

驗證指標

📄 許可證

本模型遵循CodeML OpenRAIL - M 0.1許可證，這是BigCode OpenRAIL - M許可證的一個變體。此許可證允許您自由訪問、使用、修改和分發此模型及其派生產品，用於研究、商業或非商業目的，但需遵守以下條件：

• 您必須在分發的模型副本或派生產品中包含許可證副本和模型的原始來源。
• 您不得將模型或其派生產品用於任何非法、有害、濫用、歧視性或冒犯性目的，或導致或促成任何社會或環境危害。
• 您必須尊重用於訓練或評估模型的數據主體的隱私和同意，並遵守您所在司法管轄區的相關法律法規。
• 您必須承認模型及其派生產品是“按原樣”提供的，沒有任何形式的保證或擔保，並且許可方不對您使用模型或其派生產品所產生的任何損害或損失負責。

通過訪問或使用此模型，即表示您同意受此許可證條款的約束。如果您不同意此許可證的條款，則不得訪問或使用此模型。