Multilingual E5 Small Aligned Sentiment

🚀 マルチリンガルE5小規模アラインドセンチメント

このモデルは、複数言語にわたるテキストの感情分析を行うために設計された、agentlans/multilingual - e5 - small - aligned の微調整バージョンです。

✨ 主な機能

• マルチリンガル対応
• テキストの感情分析
• E5小規模モデルアーキテクチャに基づく

📚 詳細ドキュメント

想定される用途と制限

このモデルは以下の用途を想定しています：

• マルチリンガルテキストの感情分析
• マルチリンガルコンテンツのフィルタリング
• 異なる言語間でのコーパステキストの感情の比較分析

制限事項：

• 訓練データに十分に表現されていない言語では、性能が異なる場合があります。
• 感情分析の唯一の基準として使用すべきではありません。

💻 使用例

基本的な使用法

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model_name = "agentlans/multilingual-e5-small-aligned-sentiment"

# Initialize tokenizer and model
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model = model.to(device)

def sentiment(text):
    """Assess the sentiment of the input text."""
    inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True).to(device)
    with torch.no_grad():
        logits = model(**inputs).logits.squeeze().cpu()
    return logits.tolist()

# Example usage
score = sentiment("Your text here.")
print(f"Sentiment score: {score}")

📊 性能結果

このモデルは、多様なマルチリンガルテキストサンプルで評価されました：

• 感情の異なる10個の英語のテキストサンプルが、アラビア語、中国語、フランス語、ロシア語、スペイン語に翻訳されました。
• 同じテキストに対して、異なる言語間で一貫した感情分析が行われました。

📦 訓練データ

このモデルは、Multilingual Parallel Sentences dataset で訓練されました。このデータセットには以下が含まれています：

• 英語と他の様々な言語の並列文
• LaBSEを使用して計算された意味的類似度スコア
• 追加の感情指標
• データソース: JW300、Europarl、TED Talks、OPUS - 100、Tatoeba、Global Voices、News Commentary

🔧 訓練手順

訓練ハイパーパラメータ

訓練中に以下のハイパーパラメータが使用されました：

• learning_rate: 5e - 05
• train_batch_size: 128
• eval_batch_size: 8
• seed: 42
• optimizer: betas=(0.9,0.999) および epsilon = 1e - 08 の adamw_torch を使用。optimizer_args = 追加のオプティマイザ引数なし
• lr_scheduler_type: linear
• num_epochs: 3.0

訓練結果

フレームワークバージョン

• Transformers 4.46.3
• Pytorch 2.5.1+cu124
• Datasets 3.1.0
• Tokenizers 0.20.3

📄 ライセンス

このモデルはMITライセンスの下で提供されています。