Orpheus 3b Kaya Q4 K M.gguf

🚀 Orpheus-3b-Kaya-Q4_K_M

這是預訓練模型 canopylabs/orpheus-3b-0.1-pretrained 的微調版本。它在自定義語音數據集上進行訓練，並量化為 GGUF Q4_K_M 格式，以實現快速、高效的推理。

🚀 快速開始

此模型設計用於與 Orpheus-FastAPI 配合使用，這是一個用於文本轉語音生成的 OpenAI 兼容推理服務器。

兼容的推理服務器

你可以將此模型加載到以下服務器中：

• GPUStack
• LM Studio
• llama.cpp
• 任何其他兼容 GGUF 的 OpenAI 風格服務器

✨ 主要特性

• 基於預訓練模型微調，在自定義語音數據集上訓練，針對性更強。
• 量化為 GGUF Q4_K_M 格式，推理速度快且高效。

📦 安裝指南

文檔中未提及具體安裝步驟，暫不提供。

💻 使用示例

文檔中未提供代碼示例，暫不展示。

📚 詳細文檔

🔧 技術細節

📄 許可證

本模型採用 Apache 許可證 2.0，可免費用於研究和商業用途。

🙌 鳴謝

• 原始模型由 Canopy Labs 開發。
• 微調、量化和 API 封裝由 Lex-au 通過 Unsloth 和 Huggingface 的 TRL 庫完成。

📚 引用

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-pt: Pretrained Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-pt}}
}

@misc{orpheus-kaya-2025,
  author = {Lex-au},
  title = {Orpheus-3b-Kaya-Q4_K_M: Fine-Tuned TTS Model (Quantised)},
  note = {Fine-tuned from canopylabs/orpheus-3b-0.1-pt},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-Kaya-Q4_K_M}}
}