Wav2vec2 Large Xlsr 53 Chinese Zn Cn Aishell1

🚀 Wav2Vec2-Large-XLSR-53-Chinese-zh-CN-aishell1

このモデルは、facebook/wav2vec2-large-xlsr-53 を AISHELL-1 データセットを用いて中国語でファインチューニングしたものです。このモデルを使用する際には、音声入力が16kHzでサンプリングされていることを確認してください。

🚀 クイックスタート

モデルの使用方法

このモデルは、言語モデルを使用せずに直接使用することができます。以下にコード例を示します。

import torch
import librosa
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

device = "cuda:0" if torch.cuda.is_available() else "cpu"

processor = Wav2Vec2Processor.from_pretrained(
    'qinyue/wav2vec2-large-xlsr-53-chinese-zn-cn-aishell1')
model = Wav2Vec2ForCTC.from_pretrained(
    'qinyue/wav2vec2-large-xlsr-53-chinese-zn-cn-aishell1').to(device)

filepath = 'test.wav'
audio, sr = librosa.load(filepath, sr=16000, mono=True)
inputs = processor(audio, sample_rate=16000, return_tensors="pt").to(device)
with torch.no_grad():
    logits = model(inputs.input_values,
                   attention_mask=inputs.attention_mask).logits
predicted_ids = torch.argmax(logits, dim=-1)
pred_str = processor.decode(predicted_ids[0])

print(pred_str)

評価方法

以下のコードを使用して、モデルの評価を行うことができます。

wer_metric = load_metric("wer")

def compute_metrics(pred):
    pred_logits = pred.predictions
    pred_ids = np.argmax(pred_logits, axis=-1)

    pred.label_ids[pred.label_ids == -100] = processor.tokenizer.pad_token_id

    pred_str = processor.batch_decode(pred_ids, spaces_between_special_tokens=True)
    label_str = processor.batch_decode(pred.label_ids, group_tokens=False, spaces_between_special_tokens=True)

    wer = wer_metric.compute(predictions=pred_str, references=label_str)

    return {"wer": wer}

評価結果

以下の表は、このモデルのAISHELL-1テストデータセットにおける単語誤り率（WER）を示しています。

テスト結果: 以下の表に、AISHELL-1テストデータセットにおけるモデルの単語誤り率（WER）を示します。

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。

📊 モデル情報