Orpheus 3b Kaya FP16.gguf

🚀 Orpheus-3b-Kaya-FP16

這是預訓練模型 canopylabs/orpheus-3b-0.1-pretrained 的微調版本。它在自定義語音數據集上進行訓練，並量化為 GGUF FP16 格式，以實現快速高效的推理。

🚀 快速開始

此模型設計用於與 Orpheus-FastAPI 配合使用，這是一個兼容 OpenAI 的文本轉語音推理服務器。

兼容的推理服務器

你可以將此模型加載到以下服務器中：

• GPUStack
• LM Studio
• llama.cpp
• 任何其他兼容 GGUF 的 OpenAI 風格服務器

✨ 主要特性

• 基於預訓練模型微調，在自定義語音數據集上訓練，提升語音合成效果。
• 量化為 GGUF FP16 格式，實現快速高效推理。

🔧 技術細節

📄 許可證

本項目採用 Apache 許可證 2.0，可免費用於研究和商業用途。

🙌 鳴謝

• 原始模型作者：Canopy Labs
• 微調、量化和 API 封裝：Lex-au，通過 Unsloth 和 Huggingface 的 TRL 庫完成。

📚 引用

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-pt: Pretrained Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-pt}}
}

@misc{orpheus-kaya-2025,
  author = {Lex-au},
  title = {Orpheus-3b-Kaya-FP16: Fine-Tuned TTS Model (Quantised)},
  note = {Fine-tuned from canopylabs/orpheus-3b-0.1-pt},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-Kaya-FP16}}
}