🚀 大規模多言語音声 (MMS): ウルドゥー語のテキスト読み上げ
このリポジトリには、ウルドゥー語 (urd-script_latin) のテキスト読み上げ (TTS) モデルのチェックポイントが含まれています。
このモデルは、Facebookの 大規模多言語音声 プロジェクトの一部であり、多様な言語にわたる音声技術を提供することを目的としています。サポートされている言語とそのISO 639-3コードの詳細は、MMS言語カバレッジ概要 で確認でき、すべてのMMS-TTSチェックポイントはHugging Face Hubの facebook/mms-tts で見ることができます。
MMS-TTSは、🤗 Transformersライブラリのバージョン4.33以降で利用可能です。
🚀 クイックスタート
MMS-TTSは、🤗 Transformersライブラリのバージョン4.33以降で利用可能です。このチェックポイントを使用するには、まずライブラリの最新バージョンをインストールします。
pip install --upgrade transformers accelerate
次に、以下のコードスニペットを使用して推論を実行します。
from transformers import VitsModel, AutoTokenizer
import torch
model = VitsModel.from_pretrained("facebook/mms-tts-urd-script_latin")
tokenizer = AutoTokenizer.from_pretrained("facebook/mms-tts-urd-script_latin")
text = "some example text in the Urdu language"
inputs = tokenizer(text, return_tensors="pt")
with torch.no_grad():
output = model(**inputs).waveform
結果の波形は、.wav
ファイルとして保存することができます。
import scipy
scipy.io.wavfile.write("techno.wav", rate=model.config.sampling_rate, data=output)
または、Jupyter Notebook / Google Colabで表示することもできます。
from IPython.display import Audio
Audio(output, rate=model.config.sampling_rate)
✨ 主な機能
VITS (Variational Inference with adversarial learning for end-to-end Text-to-Speech) は、入力テキストシーケンスに基づいて音声波形を予測するエンドツーエンドの音声合成モデルです。これは、事後エンコーダ、デコーダ、および条件付き事前分布から構成される条件付き変分オートエンコーダ (VAE) です。
Transformerベースのテキストエンコーダと複数の結合層から構成されるフローベースのモジュールによって、一連のスペクトログラムベースの音響特徴が予測されます。スペクトログラムは、HiFi-GANボコーダと同じスタイルで、転置畳み込み層のスタックを使用してデコードされます。同じテキスト入力が複数の方法で話される可能性があるというTTS問題の1対多の性質に着想を得て、このモデルには確率的持続時間予測器も含まれており、同じ入力テキストから異なるリズムの音声を合成することができます。
このモデルは、変分下限と敵対的トレーニングから導出される損失の組み合わせを使用してエンドツーエンドでトレーニングされます。モデルの表現力を向上させるために、正規化フローが条件付き事前分布に適用されます。推論時には、持続時間予測モジュールに基づいてテキストエンコーディングがアップサンプリングされ、次にフローモジュールとHiFi-GANデコーダのカスケードを使用して波形にマッピングされます。持続時間予測器の確率的性質により、このモデルは非決定的であり、同じ音声波形を生成するには固定シードが必要です。
MMSプロジェクトでは、各言語に対して個別のVITSチェックポイントがトレーニングされます。
📚 ドキュメント
このモデルはMeta AIのVineel Pratapらによって開発されました。このモデルを使用する場合は、MMSの論文を引用することを検討してください。
@article{pratap2023mms,
title={Scaling Speech Technology to 1,000+ Languages},
author={Vineel Pratap and Andros Tjandra and Bowen Shi and Paden Tomasello and Arun Babu and Sayani Kundu and Ali Elkahky and Zhaoheng Ni and Apoorv Vyas and Maryam Fazel-Zarandi and Alexei Baevski and Yossi Adi and Xiaohui Zhang and Wei-Ning Hsu and Alexis Conneau and Michael Auli},
journal={arXiv},
year={2023}
}
📄 ライセンス
このモデルは CC-BY-NC 4.0 ライセンスで提供されています。