Outetts 0.2 500M GGUF

🚀 OuteTTS-0.2-500M-GGUF

OuteTTS-0.2-500M-GGUF 是一個量化後的文本轉語音模型，支持多種語言，可藉助 LlamaEdge 運行。

🚀 快速開始

運行環境

• LlamaEdge 版本：v0.14.9

運行命令

以 LlamaEdge 服務形式運行：

wasmedge --dir .:. \
  --nn-preload tts:GGML:AUTO:OuteTTS-0.2-500M-Q5_K_M.gguf \
  llama-api-server.wasm config \
  --file llama_server_config.toml \
  --tts

配置文件說明

llama_server_config.toml 可從模板配置文件 llama_server_config.toml.bkp 派生而來。推薦的 [tts] 配置如下：

[tts]
model_name   = "tts"            # 文本轉語音模型的名稱。
model_alias  = "tts"            # 文本轉語音模型的別名。
codec_model  = ""               # 必需。編解碼器模型文件的路徑。
speaker_file  = ""              # 替代說話人文件的路徑。
ctx_size     = 8192             # 上下文大小。默認值為 8192。
batch_size   = 8192             # 批量大小。默認值為 8192。
ubatch_size  = 8192             # 物理最大批量大小。默認值為 8192。
n_predict    = 4096             # 要預測的令牌數量。默認值為 4096。
n_gpu_layers = 100              # 在 GPU 上運行的層數。默認值為 100。
temp         = 0.8              # 溫度。默認值為 0.8。

✨ 主要特性

• 支持多語言：支持英語、中文、日語和韓語。
• 多種量化模型可選：提供了不同量化方法和比特數的模型，可根據需求選擇。

📦 安裝指南

文檔未提供具體安裝步驟，可參考上述快速開始部分運行模型。

💻 使用示例

文檔未提供具體使用示例代碼。

📚 詳細文檔

原始模型

OuteAI/OuteTTS-0.2-500M

量化模型信息

量化工具：使用 llama.cpp b4381 進行量化。

🔧 技術細節

文檔未提供具體技術細節。

📄 許可證

該模型的許可證為 cc-by-nc-4.0。