Wav2vec2 Large 100k Voxpopuli Catala

🚀 加泰羅尼亞語VoxPopuli Wav2Vec2大模型

本模型基於facebook/wav2vec2-large-100k-voxpopuli，使用Common Voice和ParlamentParla數據集對加泰羅尼亞語進行微調。它可用於音頻、自動語音識別、語音和語音轉文本等任務。

🚀 快速開始

重要提示

⚠️ 重要提示

此模型已遷移至以下URL：https://huggingface.co/softcatala/wav2vec2-large-100k-voxpopuli-catala

注意事項

⚠️ 重要提示

所使用的訓練/開發/測試拆分與CommonVoice 6.1數據集並不完全匹配。使用了結合CommonVoice和ParlamentParla數據集的自定義拆分，可在此處找到。在CV測試數據集上進行評估會產生有偏差的字錯誤率（WER），因為該數據集中的1144個音頻文件已用於此模型的訓練/評估。WER是使用此test.csv計算的，該文件在模型訓練/評估期間未被模型看到。

使用建議

💡 使用建議

使用此模型時，請確保您的語音輸入採樣率為16kHz。

✨ 主要特性

• 多數據集訓練：使用Common Voice和ParlamentParla數據集進行訓練，提升模型在加泰羅尼亞語上的性能。
• 特定領域優化：針對加泰羅尼亞語語音識別進行了微調，適用於相關語音處理任務。

📦 安裝指南

文檔未提供具體安裝步驟，可參考原模型facebook/wav2vec2-large-100k-voxpopuli的安裝說明。

💻 使用示例

基礎用法

import torch
import torchaudio
from datasets import load_dataset
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

test_dataset = load_dataset("common_voice", "ca", split="test[:2%]")

processor = Wav2Vec2Processor.from_pretrained("ccoreilly/wav2vec2-large-100k-voxpopuli-catala") 
model = Wav2Vec2ForCTC.from_pretrained("ccoreilly/wav2vec2-large-100k-voxpopuli-catala")

resampler = torchaudio.transforms.Resample(48_000, 16_000)

# Preprocessing the datasets.
# We need to read the audio files as arrays
def speech_file_to_array_fn(batch):
	speech_array, sampling_rate = torchaudio.load(batch["path"])
	batch["speech"] = resampler(speech_array).squeeze().numpy()
	return batch

test_dataset = test_dataset.map(speech_file_to_array_fn)
inputs = processor(test_dataset["speech"][:2], sampling_rate=16_000, return_tensors="pt", padding=True)

with torch.no_grad():
	logits = model(inputs.input_values, attention_mask=inputs.attention_mask).logits

predicted_ids = torch.argmax(logits, dim=-1)

print("Prediction:", processor.batch_decode(predicted_ids))
print("Reference:", test_dataset["sentence"][:2])

📚 詳細文檔

你可以在GitHub倉庫ccoreilly/wav2vec2-catala中找到訓練和評估腳本。

🔧 技術細節

本模型在訓練時使用了自定義的數據集拆分，結合了Common Voice和ParlamentParla數據集。在評估時，使用了未被模型在訓練/評估期間看到的test.csv文件來計算字錯誤率（WER）。

📄 許可證

本模型使用Apache-2.0許可證。

📈 模型評估結果

字錯誤率（WER）在以下模型未見過的數據集上進行了評估：

📋 模型信息