Mdeberta V3 Base Sentiment

🚀 多言語DeBERTa V3 Baseによる感情評価

このモデルは、多言語DeBERTaモデル（mdeberta）を微調整したもので、様々な言語のテキストの感情を評価することができます。

📚 ドキュメント

モデルの詳細

• アーキテクチャ: mdeberta-v3-base-sentiment
• タスク: 分類（感情分析）
• 学習データ: agentlans/tatoeba-english-translations 。このデータセットには48,900件の英語の翻訳ラベル付きデータが含まれています。
• 入力: DeBERTaがサポートする任意の言語のテキスト
• 出力: テキストの感情スコア（肯定的、否定的、中立）
  • 正のスコアは肯定的な感情を示します
  • ゼロのスコアは中立的な感情を示します
  • 負のスコアは否定的な感情を示します

性能

20%の検証データセットでのRMSE精度: 0.4177

学習データ

このモデルは agentlans/tatoeba-english-translations を使用して学習されました。

制限事項

• 学習データと大きく異なるテキストに対しては、性能が異なる場合があります。
• 出力は統計的パターンに基づいているため、必ずしも人間の判断と一致するとは限りません。
• 感情は純粋にテキストの特徴に基づいて評価され、主題の熟知度や文化的背景などの要素は考慮されていません。

倫理的な考慮事項

• 特定の対象者に対するテキストの適切性を判断する唯一の基準として使用してはいけません。
• 結果は学習データソースに含まれるバイアスを反映している可能性があります。
• 教育や出版の文脈でこれらのモデルを使用する際には注意が必要です。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name="agentlans/mdeberta-v3-base-sentiment"

# Put model on GPU or else CPU
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

def sentiment(text):
    """Processes the text using the model and returns its logits.
    In this case, it's interpreted as the sentiment score for that text."""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# Note: Recommend to preprocess text to remove special characters, e-mails, and hash tags
sentiment("Your text here.")

結果

この研究では、様々な感情を持つ10の英語のテキストサンプルを生成し、Google翻訳を使用してアラビア語、中国語、フランス語、ロシア語、スペイン語に翻訳しました。これにより、合計50の翻訳サンプルが得られ、これらを学習済みの分類器で分析して感情スコアを予測しました。

以下の散布図は、各テキストサンプルごとにグループ化された予測感情スコアを示しています。注目すべきは、同じテキストに対する予測スコアが異なる言語間で低い変動性を示しており、ターゲット言語に関係なく翻訳の感情評価が一貫していることを示しています。

この分析は、機械学習分類器を使用して複数の言語にわたるテキストの感情を評価する有効性を強調しています。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。