Sentiment Analysis

🚀 Sentiment Analysis Model using DistilBERT

このリポジトリには、DistilBERTアーキテクチャを使用してIMDb映画レビューデータセットでファインチューニングされた感情分析モデルが含まれています。このモデルは、テキスト入力を肯定的または否定的な感情カテゴリに分類するように設計されています。

✨ 主な機能

• DistilBERTアーキテクチャをベースに、BERTよりも小型で高速、低コスト、軽量。
• IMDbデータセットでファインチューニングされ、50,000件の映画レビューを対象に学習。
• テキスト入力を肯定的または否定的な感情カテゴリに分類可能。

📦 インストール

このモデルを使用するには、Hugging Faceのtransformersライブラリをインストールする必要があります。以下のコマンドを使用してpipでインストールできます。

pip install transformers

💻 使用例

基本的な使用法

from transformers import DistilBertTokenizer, DistilBertForSequenceClassification
import torch

# Load the tokenizer and model from the Hugging Face Hub
tokenizer = DistilBertTokenizer.from_pretrained(Pranav-10/Sentimental_Analysis)
model = DistilBertForSequenceClassification.from_pretrained(Pranav-10/Sentimental_Analysis)

# Example text
text = "I loved this movie. The performances were fantastic!"

# Tokenize text and convert to tensor
inputs = tokenizer(text, return_tensors="pt", truncation=True, padding=True, max_length=512)

# Predict sentiment
with torch.no_grad():
    logits = model(**inputs).logits

# Convert logits to probabilities using softmax
probabilities = torch.softmax(logits, dim=-1)

# Output the result
print(probabilities)

📚 ドキュメント

モデルの説明

このモデルはDistilBERTアーキテクチャに基づいており、BERTの小型、高速、低コスト、軽量版です。IMDbデータセットでファインチューニングされており、50,000件の映画レビューが肯定的または否定的にラベル付けされています。DistilBERTは、BERTのほとんどの性能を維持しながら、より効率的であることが証明されています。このため、モデルのサイズと速度が重要な感情分析タスクに最適な選択肢となります。

評価結果

このモデルは、IMDbデータセットで以下の性能を達成しました。

学習手順

このモデルは以下の手順で学習されました。

• 前処理：データセットのすべてのレビューを小文字に変換し、DistilBERTトークナイザーを使用してトークン化しました。
• 最適化：学習率2e-5のAdamオプティマイザーを使用し、バッチサイズは16として、3エポックでモデルを学習させました。
• ハードウェア：学習は単一のNVIDIA GTX 1650 GPUで行われました。

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で提供されています。