🚀 wav2vec2-large-slavic-parlaspeech-hr
該模型用於克羅地亞語的自動語音識別(ASR),基於 facebook/wav2vec2-large-slavic-voxpopuli-v2 模型,並使用來自克羅地亞議會 ASR 數據集 ParlaSpeech-HR v1.0 的 300 小時錄音和文字轉錄進行了微調。
如果您使用此模型,請引用以下論文:
Nikola Ljubešić, Danijel Koržinek, Peter Rupnik, Ivo - Pavao Jazbec. ParlaSpeech - HR -- a freely available ASR dataset for Croatian bootstrapped from the ParlaMint corpus. http://www.lrec-conf.org/proceedings/lrec2022/workshops/ParlaCLARINIII/pdf/2022.parlaclariniii-1.16.pdf
✨ 主要特性
- 基於成熟的
facebook/wav2vec2-large-slavic-voxpopuli-v2
模型進行微調,適用於克羅地亞語的自動語音識別任務。
- 利用了 300 小時的克羅地亞議會錄音及轉錄數據進行訓練,具有較好的性能表現。
📦 安裝指南
文檔中未提及具體安裝步驟,若有相關需求,可參考 transformers
庫的安裝方式。
💻 使用示例
基礎用法
from transformers import Wav2Vec2Processor, Wav2Vec2ForCTC
import soundfile as sf
import torch
import os
device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu")
processor = Wav2Vec2Processor.from_pretrained(
"classla/wav2vec2-large-slavic-parlaspeech-hr")
model = Wav2Vec2ForCTC.from_pretrained("classla/wav2vec2-large-slavic-parlaspeech-hr")
os.system("wget https://huggingface.co/classla/wav2vec2-large-slavic-parlaspeech-hr/raw/main/00020570a.flac.wav")
speech, sample_rate = sf.read("00020570a.flac.wav")
input_values = processor(speech, sampling_rate=sample_rate, return_tensors="pt").input_values.to(device)
os.system("rm 00020570a.flac.wav")
logits = model.to(device)(input_values).logits
predicted_ids = torch.argmax(logits, dim=-1)
transcription = processor.decode(predicted_ids[0]).lower()
📚 詳細文檔
指標
評估是在 ParlaSpeech - HR v1.0 數據集的開發集和測試集上進行的。
分割集 |
字符錯誤率(CER) |
詞錯誤率(WER) |
開發集 |
0.0311 |
0.0921 |
測試集 |
0.0222 |
0.0679 |
有多個可用的模型,就 CER 和 WER 而言,性能最佳的模型是 wav2vec2-large-slavic-parlaspeech-hr-lm。
訓練超參數
在微調過程中,使用了以下參數:
參數 |
值 |
per_device_train_batch_size |
16 |
gradient_accumulation_steps |
4 |
num_train_epochs |
8 |
learning_rate |
3e - 4 |
warmup_steps |
500 |