Orpheus 3b Kaya Q8 0.gguf

🚀 Orpheus-3b-Kaya-Q8_0

Orpheus-3b-Kaya-Q8_0 是一個經過微調的文本轉語音模型，基於預訓練模型優化而來，採用 GGUF Q8_0 量化格式，實現快速高效推理。

🚀 快速開始

此模型設計用於與 Orpheus-FastAPI 配合使用，這是一個兼容 OpenAI 的文本轉語音推理服務器。

兼容的推理服務器

你可以將此模型加載到以下服務器中：

• GPUStack
• LM Studio
• llama.cpp
• 任何其他兼容 GGUF 的 OpenAI 風格服務器

✨ 主要特性

• 基於預訓練模型 canopylabs/orpheus-3b-0.1-pretrained 進行微調。
• 採用自定義語音數據集進行訓練。
• 使用 GGUF Q8_0 量化格式，實現快速高效推理。

📚 詳細文檔

🔧 模型詳情

📄 許可證

本項目採用 Apache License 2.0 許可協議，可免費用於研究和商業用途。

🙌 鳴謝

• 原始模型由 Canopy Labs 開發。
• 微調、量化和 API 封裝由 Lex-au 通過 Unsloth 和 Huggingface 的 TRL 庫完成。

📚 引用

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-pt: Pretrained Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-pt}}
}

@misc{orpheus-kaya-2025,
  author = {Lex-au},
  title = {Orpheus-3b-Kaya-Q8_0: Fine-Tuned TTS Model (Quantised)},
  note = {Fine-tuned from canopylabs/orpheus-3b-0.1-pt},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-Kaya-Q8_0}}
}