Japanese Parler Tts Mini

🚀 日本語Parler-TTSミニ

このリポジトリは、parler-tts/parler-tts-mini-v1を基に、日本語でのテキスト読み上げを可能にするよう再学習したモデルを公開しています。本モデルは、軽量でありながら高品質な音声生成を提供します。

🚀 クイックスタート

このモデルを使って、日本語のテキストを高品質な音声に変換できます。以下に、インストール方法と使用例を示します。

✨ 主な機能

• 軽量で高品質な音声生成を提供します。
• 日本語でのテキスト読み上げに最適化されています。

📦 インストール

以下のコマンドで必要なライブラリをインストールできます。

pip install git+https://github.com/huggingface/parler-tts.git
pip install git+https://github.com/getuka/RubyInserter.git

💻 使用例

基本的な使用法

ランダムな音声でテキストを読み上げるには、以下のコードを使用します。

import torch
from parler_tts import ParlerTTSForConditionalGeneration
from transformers import AutoTokenizer
import soundfile as sf
from rubyinserter import add_ruby

device = "cuda:0" if torch.cuda.is_available() else "cpu"

model = ParlerTTSForConditionalGeneration.from_pretrained("2121-8/japanese-parler-tts-mini").to(device)
prompt_tokenizer = AutoTokenizer.from_pretrained("2121-8/japanese-parler-tts-mini", subfolder="prompt_tokenizer")
description_tokenizer = AutoTokenizer.from_pretrained("2121-8/japanese-parler-tts-mini", subfolder="description_tokenizer")

prompt = "こんにちは、今日はどのようにお過ごしですか？"
description = "A female speaker with a slightly high-pitched voice delivers her words at a moderate speed with a quite monotone tone in a confined environment, resulting in a quite clear audio recording."

prompt = add_ruby(prompt)
input_ids = description_tokenizer(description, return_tensors="pt").input_ids.to(device)
prompt_input_ids = prompt_tokenizer(prompt, return_tensors="pt").input_ids.to(device)

generation = model.generate(input_ids=input_ids, prompt_input_ids=prompt_input_ids)
audio_arr = generation.cpu().numpy().squeeze()
sf.write("parler_tts_japanese_out.wav", audio_arr, model.config.sampling_rate)

サンプル音声

高度な使用法

特定の話者を指定してテキストを読み上げるには、以下のコードを使用します。使用した学習データ: JSUT

import torch
from parler_tts import ParlerTTSForConditionalGeneration
from transformers import AutoTokenizer
import soundfile as sf
from rubyinserter import add_ruby

device = "cuda:0" if torch.cuda.is_available() else "cpu"

model = ParlerTTSForConditionalGeneration.from_pretrained("2121-8/japanese-parler-tts-mini").to(device)
prompt_tokenizer = AutoTokenizer.from_pretrained("2121-8/japanese-parler-tts-mini", subfolder="prompt_tokenizer")
description_tokenizer = AutoTokenizer.from_pretrained("2121-8/japanese-parler-tts-mini", subfolder="description_tokenizer")

prompt = "こんにちは、今日はどのようにお過ごしですか？"
description = "JSUT speaks with an expressive and animated tone in an excellent recording, with a very close-sounding proximity that suggests a private and intimate setting, and delivers her words at a rapid pace."

prompt = add_ruby(prompt)
input_ids = description_tokenizer(description, return_tensors="pt").input_ids.to(device)
prompt_input_ids = prompt_tokenizer(prompt, return_tensors="pt").input_ids.to(device)

generation = model.generate(input_ids=input_ids, prompt_input_ids=prompt_input_ids)
audio_arr = generation.cpu().numpy().squeeze()
sf.write("parler_tts_japanese_out.wav", audio_arr, model.config.sampling_rate)

サンプル音声

📚 ドキュメント

Japanese Parler-TTS Index

• Japanese Parler-TTS Mini
• Japanese Parler-TTS Large (計算資源に余裕があったら学習します)

クイックインデックス

• 👨‍💻 インストール
• 🎲 ランダムな音声での使用方法
• 🎯 特定の話者を指定する方法

📄 ライセンス

本モデルおよびリポジトリは、研究、教育、商用利用を含む幅広い目的での利用が許可されています。ただし、以下の条件を遵守してください。

1. 商用利用に関する条件
   本モデルを使用して生成された音声や成果物を商用目的で利用することは可能ですが、本モデルそのもの（ファイルや重みデータなど）の販売は禁じられています。

2. 適切性についての免責
   本モデルの利用により得られる結果の正確性、合法性、または適切性について、作成者は一切保証しません。

3. ユーザーの責任
   本モデルを使用する際は、適用されるすべての法律や規制を遵守してください。また、生成されたコンテンツに起因する責任はすべてユーザーに帰属します。

4. 作成者の免責
   本リポジトリおよびモデルの作成者は、著作権侵害やその他の法的問題に関する責任を一切負いません。

5. 削除要求への対応
   著作権問題が発生した場合、問題のあるリソースやデータを速やかに削除します。

⚠️ 重要提示

本家のParler-TTSで使用されているtokenizerとは互換性がありません。本モデル用に独自のtokenizerが採用されています。

📋 モデル情報