Mdeberta V3 Base Sentiment

🚀 多语言DeBERTa V3基础情感评估模型

本项目是多语言DeBERTa模型（mdeberta）的微调版本，用于跨语言评估文本情感。

🚀 快速开始

安装依赖

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

加载模型

model_name="agentlans/mdeberta-v3-base-sentiment"

# 将模型置于GPU或CPU
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

进行情感分析

def sentiment(text):
    """使用模型处理文本并返回其对数几率。
    在这种情况下，它被解释为该文本的情感分数。"""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# 注意：建议对文本进行预处理，以去除特殊字符、电子邮件和哈希标签
sentiment("Your text here.")

✨ 主要特性

• 基于多语言DeBERTa模型微调，可跨语言评估文本情感。
• 支持多种语言输入，输出文本的情感分数（积极、消极、中性）。

📦 安装指南

使用transformers库加载模型，代码如下：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name="agentlans/mdeberta-v3-base-sentiment"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

💻 使用示例

基础用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name="agentlans/mdeberta-v3-base-sentiment"

# Put model on GPU or else CPU
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

def sentiment(text):
    """Processes the text using the model and returns its logits.
    In this case, it's interpreted as the sentiment score for that text."""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# Note: Recommend to preprocess text to remove special characters, e-mails, and hash tags
sentiment("Your text here.")

📚 详细文档

模型详情

性能

在20%的保留验证集上，均方根误差（RMSE）准确率为0.4177。

训练数据

模型在 agentlans/tatoeba-english-translations 数据集上进行训练。

结果

在本研究中，生成了10个不同情感的英文文本样本，并使用谷歌翻译将其翻译成阿拉伯语、中文、法语、俄语和西班牙语。这产生了总共50个翻译样本，随后由训练好的分类器对其进行分析，以预测它们的情感分数。

下图展示了按每个文本样本分组的预测情感分数。值得注意的是，对于相同的文本，不同语言的预测分数变异性较低，这表明无论目标语言如何，对翻译情感的评估是一致的。

该分析凸显了使用机器学习分类器评估多语言文本情感的有效性。

局限性

• 对于与训练数据显著不同的文本，性能可能会有所差异。
• 输出基于统计模式，可能并不总是与人类判断一致。
• 情感评估仅基于文本特征，不考虑主题熟悉度或文化背景等因素。

伦理考虑

• 不应将其作为特定受众文本适用性的唯一决定因素。
• 结果可能反映训练数据源中存在的偏差。
• 在教育或出版环境中使用这些模型时应谨慎。

📄 许可证

本项目采用MIT许可证。