Mdeberta V3 Base Sentiment

🚀 多語言DeBERTa V3基礎情感評估模型

本項目是多語言DeBERTa模型（mdeberta）的微調版本，用於跨語言評估文本情感。

🚀 快速開始

安裝依賴

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

加載模型

model_name="agentlans/mdeberta-v3-base-sentiment"

# 將模型置於GPU或CPU
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

進行情感分析

def sentiment(text):
    """使用模型處理文本並返回其對數幾率。
    在這種情況下，它被解釋為該文本的情感分數。"""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# 注意：建議對文本進行預處理，以去除特殊字符、電子郵件和哈希標籤
sentiment("Your text here.")

✨ 主要特性

• 基於多語言DeBERTa模型微調，可跨語言評估文本情感。
• 支持多種語言輸入，輸出文本的情感分數（積極、消極、中性）。

📦 安裝指南

使用transformers庫加載模型，代碼如下：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name="agentlans/mdeberta-v3-base-sentiment"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

💻 使用示例

基礎用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name="agentlans/mdeberta-v3-base-sentiment"

# Put model on GPU or else CPU
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

def sentiment(text):
    """Processes the text using the model and returns its logits.
    In this case, it's interpreted as the sentiment score for that text."""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# Note: Recommend to preprocess text to remove special characters, e-mails, and hash tags
sentiment("Your text here.")

📚 詳細文檔

模型詳情

性能

在20%的保留驗證集上，均方根誤差（RMSE）準確率為0.4177。

訓練數據

模型在 agentlans/tatoeba-english-translations 數據集上進行訓練。

結果

在本研究中，生成了10個不同情感的英文文本樣本，並使用谷歌翻譯將其翻譯成阿拉伯語、中文、法語、俄語和西班牙語。這產生了總共50個翻譯樣本，隨後由訓練好的分類器對其進行分析，以預測它們的情感分數。

下圖展示了按每個文本樣本分組的預測情感分數。值得注意的是，對於相同的文本，不同語言的預測分數變異性較低，這表明無論目標語言如何，對翻譯情感的評估是一致的。

該分析凸顯了使用機器學習分類器評估多語言文本情感的有效性。

侷限性

• 對於與訓練數據顯著不同的文本，性能可能會有所差異。
• 輸出基於統計模式，可能並不總是與人類判斷一致。
• 情感評估僅基於文本特徵，不考慮主題熟悉度或文化背景等因素。

倫理考慮

• 不應將其作為特定受眾文本適用性的唯一決定因素。
• 結果可能反映訓練數據源中存在的偏差。
• 在教育或出版環境中使用這些模型時應謹慎。

📄 許可證

本項目採用MIT許可證。