Beto Sentiment Analysis Es

🚀 beto_sentiment_analysis_esモデル

スペイン語の感情分析用にファインチューニングされたモデル

このモデルは、Amazon SageMakerと新しいHugging Face Deep Learningコンテナを使用してトレーニングされました。ベースモデルはBETOで、これはスペイン語コーパスで事前学習されたBERTベースのモデルです。BETOはBERT-Baseと同程度のサイズで、Whole Word Masking技術を用いてトレーニングされています。

BETO引用

Spanish Pre-Trained BERT Model and Evaluation Data

@inproceedings{CaneteCFP2020,
  title={Spanish Pre-Trained BERT Model and Evaluation Data},
  author={Cañete, José and Chaperon, Gabriel and Fuentes, Rodrigo and Ho, Jou-Hui and Kang, Hojin and Pérez, Jorge},
  booktitle={PML4DC at ICLR 2020},
  year={2020}
}

📚 詳細ドキュメント

データセット

データセットはスペイン語の映画レビューのコレクションで、約50,000件のレビューが含まれています。このデータセットは均衡されており、各レビューには英語とスペイン語の両方のテキストとラベルが提供されています。

データセットのサイズ:

• トレーニングデータセット: 42,500
• 検証データセット: 3,750
• テストデータセット: 3,750

想定用途と制限

このモデルはスペイン語コーパスの感情分析を目的としており、特に映画レビューに対してファインチューニングされていますが、他の種類のレビューにも適用できます。

ハイパーパラメータ

{
    "epochs": "4",
    "train_batch_size": "32",    
    "eval_batch_size": "8",
    "fp16": "true",
    "learning_rate": "3e-05",
    "model_name": "\"dccuchile/bert-base-spanish-wwm-uncased\"",
    "sagemaker_container_log_level": "20",
    "sagemaker_program": "\"train.py\""
}

評価結果

• 正解率 (Accuracy) = 0.9101333333333333
• F1スコア (F1 Score) = 0.9088450094671354
• 適合率 (Precision) = 0.9105691056910569
• 再現率 (Recall) = 0.9071274298056156

テスト結果

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

tokenizer = AutoTokenizer.from_pretrained("edumunozsala/beto_sentiment_analysis_es")
model = AutoModelForSequenceClassification.from_pretrained("edumunozsala/beto_sentiment_analysis_es")

text ="Se trata de una película interesante, con un solido argumento y un gran interpretación de su actor principal"

input_ids = torch.tensor(tokenizer.encode(text)).unsqueeze(0)
outputs = model(input_ids)
output = outputs.logits.argmax(1)

作成者

Eduardo Muñoz/@edumunozsala

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

📊 モデル情報