Wav2vec2 Large Xlsr Catala

🚀 加泰羅尼亞語XLSR Wav2Vec2大模型

本項目是在加泰羅尼亞語上對 facebook/wav2vec2-large-xlsr-53 進行微調的成果，使用了 Common Voice 和 ParlamentParla 數據集。該模型可用於自動語音識別任務，為加泰羅尼亞語的語音處理提供了有效的解決方案。

🚀 快速開始

本模型是基於 facebook/wav2vec2-large-xlsr-53 在加泰羅尼亞語上微調得到的。使用時，請確保語音輸入的採樣率為 16kHz。

⚠️ 重要提示

本項目使用的訓練/開發/測試劃分與 CommonVoice 6.1 數據集並不完全一致。採用了自定義的劃分方式，結合了 CommonVoice 和 ParlamentParla 數據集，具體可查看 此處。在 CV 測試數據集上進行評估會產生有偏差的字錯誤率（WER），因為該數據集中有 1144 個音頻文件已用於本模型的訓練/評估。WER 是使用 test.csv 計算得出的，該文件在訓練/評估過程中未被模型使用。

✨ 主要特性

• 基於加泰羅尼亞語進行微調，適用於加泰羅尼亞語的自動語音識別任務。
• 結合了 Common Voice 和 ParlamentParla 兩個數據集進行訓練，提高了模型的泛化能力。

📦 安裝指南

文檔未提及安裝步驟，故跳過此章節。

💻 使用示例

基礎用法

import torch
import torchaudio
from datasets import load_dataset
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

test_dataset = load_dataset("common_voice", "ca", split="test[:2%]")

processor = Wav2Vec2Processor.from_pretrained("ccoreilly/wav2vec2-large-xlsr-catala") 
model = Wav2Vec2ForCTC.from_pretrained("ccoreilly/wav2vec2-large-xlsr-catala")

resampler = torchaudio.transforms.Resample(48_000, 16_000)

# Preprocessing the datasets.
# We need to read the audio files as arrays
def speech_file_to_array_fn(batch):
	speech_array, sampling_rate = torchaudio.load(batch["path"])
	batch["speech"] = resampler(speech_array).squeeze().numpy()
	return batch

test_dataset = test_dataset.map(speech_file_to_array_fn)
inputs = processor(test_dataset["speech"][:2], sampling_rate=16_000, return_tensors="pt", padding=True)

with torch.no_grad():
	logits = model(inputs.input_values, attention_mask=inputs.attention_mask).logits

predicted_ids = torch.argmax(logits, dim=-1)

print("Prediction:", processor.batch_decode(predicted_ids))
print("Reference:", test_dataset["sentence"][:2])

📚 詳細文檔

你可以在 GitHub 倉庫 ccoreilly/wav2vec2-catala 中找到訓練和評估腳本。

🔧 技術細節

文檔未提供足夠的技術實現細節（具體說明少於 50 字），故跳過此章節。

📄 許可證

本項目採用 Apache-2.0 許可證。

📋 模型信息

📈 評估結果

字錯誤率（WER）在以下模型未見過的數據集上進行評估：