Parler Tiny V1 Jenny

🚀 Parler-TTS Tiny v1 - Jenny

Parler-TTS Tiny v1を30時間のシングルスピーカーの高品質Jenny（アイルランド出身 ☘️）データセットでファインチューニングしたバージョンで、TTSモデルのトレーニングに適しています。使用方法はParler-TTS v1とほぼ同じで、音声の説明に「Jenny」というキーワードを指定するだけです。

• Colabでのファインチューニングガイド:

🚀 クイックスタート

インストール

pip install git+https://github.com/huggingface/parler-tts.git

使用例

import torch
from parler_tts import ParlerTTSForConditionalGeneration
from transformers import AutoTokenizer
import soundfile as sf

device = "cuda:0" if torch.cuda.is_available() else "cpu"

model = ParlerTTSForConditionalGeneration.from_pretrained("parler-tts/parler-tiny-v1-jenny").to(device)
tokenizer = AutoTokenizer.from_pretrained("parler-tts/parler-tiny-v1-jenny")

prompt = "Hey, how are you doing today? My name is Jenny, and I'm here to help you with any questions you have."
description = "Jenny speaks at an average pace with an animated delivery in a very confined sounding environment with clear audio quality."

input_ids = tokenizer(description, return_tensors="pt").input_ids.to(device)
prompt_input_ids = tokenizer(prompt, return_tensors="pt").input_ids.to(device)

generation = model.generate(input_ids=input_ids, prompt_input_ids=prompt_input_ids)
audio_arr = generation.cpu().numpy().squeeze()
sf.write("parler_tts_out.wav", audio_arr, model.config.sampling_rate)

📚 ドキュメント

引用

このリポジトリが役に立った場合は、この研究と元のStability AIの論文を引用してください。

@misc{lacombe-etal-2024-parler-tts,
  author = {Yoach Lacombe and Vaibhav Srivastav and Sanchit Gandhi},
  title = {Parler-TTS},
  year = {2024},
  publisher = {GitHub},
  journal = {GitHub repository},
  howpublished = {\url{https://github.com/huggingface/parler-tts}}
}

@misc{lyth2024natural,
      title={Natural language guidance of high-fidelity text-to-speech with synthetic annotations},
      author={Dan Lyth and Simon King},
      year={2024},
      eprint={2402.01912},
      archivePrefix={arXiv},
      primaryClass={cs.SD}
}

ライセンス

このデータセットを使用してユーザーのアクションに応じて音声を生成するソフトウェア/ウェブサイト/プロジェクト/インターフェース（音声インターフェースを含む）では、帰属表示が必要です。帰属表示とは、音声を「Jenny」と呼び、可能な限り「Jenny (Dioco)」と呼ぶことを意味します。生成されたクリップを配布する際には、帰属表示は必要ありません（ただし、歓迎されます）。商用利用は許可されています。データセットが自分のものであると主張するなどの不正行為はしないでください。その他の制限はありません。