Wav2vec2 Large Xlsr Catala

🚀 加泰羅尼亞語XLSR Wav2Vec2大模型

本項目基於加泰羅尼亞語，使用通用語音和議會演講數據集，對facebook/wav2vec2-large-xlsr-53進行了微調。該模型可用於自動語音識別任務，為加泰羅尼亞語的語音處理提供了有效的解決方案。

⚠️ 重要提示

本模型使用的訓練/開發/測試拆分與CommonVoice 6.1數據集並不完全匹配。使用了結合通用語音和議會演講數據集的自定義拆分，可在此處找到。在CV測試數據集上進行評估會產生有偏差的字錯率（WER），因為該數據集中的1144個音頻文件已用於本模型的訓練/評估。字錯率是使用此test.csv計算得出的，該文件在訓練/評估期間模型並未見過。

💡 使用建議

使用此模型時，請確保您的語音輸入採樣率為16kHz。

🚀 快速開始

本模型可直接使用（無需語言模型），以下是具體的使用步驟。

✨ 主要特性

• 基於加泰羅尼亞語進行微調，適用於加泰羅尼亞語的自動語音識別任務。
• 使用了通用語音和議會演講兩個數據集進行訓練，提高了模型的泛化能力。

📦 安裝指南

文檔中未提及安裝相關內容，可參考github倉庫 ccoreilly/wav2vec2-catala 中的訓練和評估腳本。

💻 使用示例

基礎用法

import torch
import torchaudio
from datasets import load_dataset
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

test_dataset = load_dataset("common_voice", "ca", split="test[:2%]")

processor = Wav2Vec2Processor.from_pretrained("ccoreilly/wav2vec2-large-xlsr-catala") 
model = Wav2Vec2ForCTC.from_pretrained("ccoreilly/wav2vec2-large-xlsr-catala")

resampler = torchaudio.transforms.Resample(48_000, 16_000)

# Preprocessing the datasets.
# We need to read the audio files as arrays
def speech_file_to_array_fn(batch):
	speech_array, sampling_rate = torchaudio.load(batch["path"])
	batch["speech"] = resampler(speech_array).squeeze().numpy()
	return batch

test_dataset = test_dataset.map(speech_file_to_array_fn)
inputs = processor(test_dataset["speech"][:2], sampling_rate=16_000, return_tensors="pt", padding=True)

with torch.no_grad():
	logits = model(inputs.input_values, attention_mask=inputs.attention_mask).logits

predicted_ids = torch.argmax(logits, dim=-1)

print("Prediction:", processor.batch_decode(predicted_ids))
print("Reference:", test_dataset["sentence"][:2])

📚 詳細文檔

模型信息

評估結果

字錯率（WER）在模型未見過的以下數據集上進行了評估：

📄 許可證

本項目採用Apache 2.0許可證。