Hubert Large Speech Emotion Recognition Russian Dusha Finetuned

🚀 HuBERT：DUSHAデータセットでファインチューニングされた、ロシア語の音声感情認識モデル

この事前学習モデルは facebook/hubert-large-ls960-ft です。 使用されたDUSHAデータセットは こちら で見つけることができます。

🚀 クイックスタート

このモデルは、ロシア語の音声感情認識に特化しており、事前学習モデルをDUSHAデータセットでファインチューニングすることで構築されています。

✨ 主な機能

• ロシア語の音声から感情を高精度に認識します。
• 事前学習モデルをベースにしているため、少ないデータでも効果的に学習できます。

📦 インストール

このモデルを使用するには、transformers と torchaudio ライブラリが必要です。以下のコマンドでインストールできます。

pip install transformers torchaudio torch

💻 使用例

基本的な使用法

from transformers import HubertForSequenceClassification, Wav2Vec2FeatureExtractor
import torchaudio
import torch

feature_extractor = Wav2Vec2FeatureExtractor.from_pretrained("facebook/hubert-large-ls960-ft")
model = HubertForSequenceClassification.from_pretrained("xbgoose/hubert-speech-emotion-recognition-russian-dusha-finetuned")
num2emotion = {0: 'neutral', 1: 'angry', 2: 'positive', 3: 'sad', 4: 'other'}

filepath = "path/to/audio.wav"

waveform, sample_rate = torchaudio.load(filepath, normalize=True)
transform = torchaudio.transforms.Resample(sample_rate, 16000)
waveform = transform(waveform)

inputs = feature_extractor(
        waveform, 
        sampling_rate=feature_extractor.sampling_rate, 
        return_tensors="pt",
        padding=True,
        max_length=16000 * 10,
        truncation=True
    )

logits = model(inputs['input_values'][0]).logits
predictions = torch.argmax(logits, dim=-1)
predicted_emotion = num2emotion[predictions.numpy()[0]]
print(predicted_emotion)

📚 ドキュメント

ファインチューニング

Google ColabのProアカウントでA100 GPUを使用してファインチューニングされました。プロジェクター、分類器、およびすべての24個のHubertEncoderLayerStableLayerNorm層を除くすべての層を凍結し、トレーニングデータセットの半分を使用しました。

トレーニングパラメータ

• エポック数: 2
• トレーニングバッチサイズ: 8
• 評価バッチサイズ: 8
• 勾配累積ステップ: 4
• 学習率: 5e-5（ウォームアップと減衰なし）

メトリクス

テストセットで以下のメトリクスを達成しました。

• 正解率: 0.86
• バランス: 0.76
• マクロF1スコア: 0.81

これらの結果は、データセットのベースラインと比較して、正解率とF1スコアが向上しています。

📄 ライセンス

このモデルはApache 2.0ライセンスの下で提供されています。