Wav2vec2 Large Xlsr Korean

🚀 Wav2Vec2 XLSR Korean模型

本項目的Wav2Vec2 XLSR Korean模型用於韓語自動語音識別，可有效處理語音數據，在Zeroth Korean語料庫上有良好表現。

🚀 快速開始

你可以通過下面的Google Colab筆記本（韓語）來快速體驗模型在Zeroth-Korean ASR語料庫上的評估過程： Google colab notebook(Korean)

💻 使用示例

基礎用法

from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor
from datasets import load_dataset
import soundfile as sf
import torch
from jiwer import wer

processor = Wav2Vec2Processor.from_pretrained("kresnik/wav2vec2-large-xlsr-korean")

model = Wav2Vec2ForCTC.from_pretrained("kresnik/wav2vec2-large-xlsr-korean").to('cuda')

ds = load_dataset("kresnik/zeroth_korean", "clean")

test_ds = ds['test']

def map_to_array(batch):
    speech, _ = sf.read(batch["file"])
    batch["speech"] = speech
    return batch

test_ds = test_ds.map(map_to_array)

def map_to_pred(batch):
    inputs = processor(batch["speech"], sampling_rate=16000, return_tensors="pt", padding="longest")
    input_values = inputs.input_values.to("cuda")
    
    with torch.no_grad():
        logits = model(input_values).logits

    predicted_ids = torch.argmax(logits, dim=-1)
    transcription = processor.batch_decode(predicted_ids)
    batch["transcription"] = transcription
    return batch

result = test_ds.map(map_to_pred, batched=True, batch_size=16, remove_columns=["speech"])

print("WER:", wer(result["text"], result["transcription"]))

預期指標

• 預期單詞錯誤率（WER）：4.74%
• 預期字符錯誤率（CER）：1.78%

📚 詳細文檔

模型信息

評估結果

本模型在Zeroth Korean數據集上進行評估，任務為自動語音識別，具體結果如下：