Indri 0.1 124m Tts GGUF

🚀 Indri GGUF推理

本項目旨在幫助你以GGUF格式在CPU上運行Indri模型。它能讓你輕鬆地實現文本到語音的轉換，為你的應用增添語音交互功能。

🚀 快速開始

✨ 主要特性

• 支持在CPU上運行Indri模型，降低硬件成本。
• 提供詳細的步驟指導，便於用戶操作。
• 支持API調用，方便集成到其他應用中。

📦 安裝指南

步驟1：構建llama.cpp

要在本地運行推理，你需要構建llama.cpp項目。具體的構建指南可參考此處。

git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp

cmake -B build
cmake --build build --config Release

步驟2：下載模型

從HuggingFace下載GGUF格式的模型，並將其放置在llama.cpp/models/目錄下。模型可在此處找到。 模型放置好後，在llama.cpp目錄下運行llama-cpp服務器。

# 對於F16模型，請根據不同的量化方式進行相應更新
./build/bin/llama-server -m /indri-0.1-124M-tts-F16.gguf --samplers 'top_k;temperature' --top_k 15

如果你在本地運行llama-server時遇到問題，請參考此處。

步驟3：運行推理腳本

克隆GitHub倉庫：

git clone https://github.com/cmeraki/indri.git
cd indri

python -m src.tts_gguf --text 'hi my name is Indri' --speaker '[spkr_63]' --out out.wav

可用的說話人列表可在此處找到。 你還可以運行推理服務器：

pip install -r requirements.txt

# 安裝ffmpeg（對於Mac/Windows系統，請參考：https://www.ffmpeg.org/download.html）
sudo apt update -y
sudo apt upgrade -y
sudo apt install ffmpeg -y

python -m server_ggpuf

訪問http://localhost:8000/docs查看API文檔並測試服務。

📚 詳細文檔

更多詳細信息和原始模型請參考此處。

📄 許可證

本項目採用CC BY-SA 4.0許可證。