🚀 wav2vec 2.0 with CTC/Attention trained on DVoice Darija (No LM)
本倉庫提供了所有必要的工具,可通過在 DVoice 達裡傑語(Darija)數據集上預訓練的端到端系統,在 SpeechBrain 中執行自動語音識別。為獲得更好的體驗,我們建議您進一步瞭解 SpeechBrain。
屬性 |
詳情 |
模型類型 |
自動語音識別 |
標籤 |
CTC、pytorch、speechbrain、Transformer |
許可證 |
apache-2.0 |
數據集 |
commonvoice |
評估指標 |
wer、cer |
DVoice 版本 |
驗證集字符錯誤率(CER) |
驗證集詞錯誤率(WER) |
測試集字符錯誤率(CER) |
測試集詞錯誤率(WER) |
v2.0 |
5.51 |
18.46 |
5.85 |
18.28 |
🚀 快速開始
本 ASR 系統由兩個不同但相互關聯的模塊組成:
- 分詞器(unigram):將單詞轉換為子詞單元,並使用訓練轉錄數據進行訓練。
- 聲學模型(wav2vec2.0 + CTC):將預訓練的 wav2vec 2.0 模型(facebook/wav2vec2-large-xlsr-53)與兩個 DNN 層相結合,並在達裡傑語數據集上進行微調。最終得到的聲學表示將輸入到 CTC 貪心解碼器中。
該系統使用採樣率為 16kHz(單聲道)的錄音進行訓練。調用 transcribe_file 時,代碼會根據需要自動對音頻進行歸一化處理(即重採樣 + 單聲道選擇)。
📦 安裝指南
首先,請使用以下命令安裝 transformers 和 SpeechBrain:
pip install speechbrain transformers
請注意,我們建議您閱讀 SpeechBrain 教程,進一步瞭解 SpeechBrain。
💻 使用示例
基礎用法
以下是轉錄您自己的音頻文件(達裡傑語)的示例代碼:
from speechbrain.pretrained import EncoderASR
asr_model = EncoderASR.from_hparams(source="aioxlabs/dvoice-darija", savedir="pretrained_models/asr-wav2vec2-dvoice-dar")
asr_model.transcribe_file('./the_path_to_your_audio_file')
高級用法
若要在 GPU 上進行推理,請在調用 from_hparams
方法時添加 run_opts={"device":"cuda"}
:
from speechbrain.pretrained import EncoderASR
asr_model = EncoderASR.from_hparams(source="aioxlabs/dvoice-darija", savedir="pretrained_models/asr-wav2vec2-dvoice-dar", run_opts={"device":"cuda"})
asr_model.transcribe_file('./the_path_to_your_audio_file')
📚 詳細文檔
訓練
若要從頭開始訓練模型,請參閱我們的 GitHub 教程 此處。
侷限性
SpeechBrain 團隊不保證該模型在其他數據集上的性能。
📄 許可證
本項目採用 Apache 2.0 許可證。
🔗 引用
如果您使用了 SpeechBrain,請引用以下文獻:
@misc{SB2021,
author = {Ravanelli, Mirco and Parcollet, Titouan and Rouhe, Aku and Plantinga, Peter and Rastorgueva, Elena and Lugosch, Loren and Dawalatabad, Nauman and Ju-Chieh, Chou and Heba, Abdel and Grondin, Francois and Aris, William and Liao, Chien-Feng and Cornell, Samuele and Yeh, Sung-Lin and Na, Hwidong and Gao, Yan and Fu, Szu-Wei and Subakan, Cem and De Mori, Renato and Bengio, Yoshua },
title = {SpeechBrain},
year = {2021},
publisher = {GitHub},
journal = {GitHub repository},
howpublished = {\\\\url{https://github.com/speechbrain/speechbrain}},
}
👥 關於相關組織和項目
關於 DVoice
DVoice 是一項社區倡議,旨在為非洲低資源語言提供數據和模型,以促進語音技術的應用。由於這些語言的數據匱乏,因此需要採用針對每種語言的特定方法來收集數據。目前使用了兩種不同的方法:基於 Mozilla Common Voice 的 DVoice 平臺(https://dvoice.ma 和 https://dvoice.sn),用於從社區收集真實錄音;以及遷移學習技術,用於自動標註從社交媒體獲取的錄音。DVoice 平臺目前管理著 7 種語言,包括本版本中出現的達裡傑語(摩洛哥阿拉伯語方言)、沃洛夫語、曼丁哥語、塞雷爾語、富拉語、迪奧拉語和索寧克語。
在這個項目中,AIOX Labs 和 SI2M 實驗室攜手合作,共同打造技術的未來。
關於 AIOX Labs
AIOX-Labs 總部位於拉巴特、倫敦和巴黎,致力於運用人工智能技術滿足企業的業務需求和數據項目。
- 助力企業集團發展、優化業務流程、提升客戶體驗。
- 業務涵蓋多個領域,包括金融科技、工業、零售和消費品等。
- 提供基於堅實算法基礎且可根據每個客戶特定需求進行定製的數據產品。
- 團隊由人工智能領域的博士和商業專家組成,擁有堅實的科學基礎和國際出版物。
官網:https://www.aiox-labs.com/
關於 SI2M 實驗室
信息系統、智能系統和數學建模研究實驗室(SI2M)是國家統計與應用經濟研究所(INSEA)的一個學術研究實驗室。該實驗室的研究領域包括信息系統、智能系統、人工智能、決策支持、網絡與系統安全、數學建模。
官網:SI2M Laboratory
關於 SpeechBrain
SpeechBrain 是一個開源的一體化語音工具包。它設計簡單、極其靈活且用戶友好,在多個領域都能取得有競爭力或最先進的性能。
官網:https://speechbrain.github.io/
GitHub:https://github.com/speechbrain/speechbrain
🙏 致謝
本研究得到了摩洛哥拉巴特國家科學與技術研究中心(CNRST)提供的 HPC-MARWAN(www.marwan.ma/hpc)計算資源的支持。我們在此深表感謝。