Orpheus 3b Kaya FP16.gguf

🚀 Orpheus-3b-Kaya-FP16

这是预训练模型 canopylabs/orpheus-3b-0.1-pretrained 的微调版本。它在自定义语音数据集上进行训练，并量化为 GGUF FP16 格式，以实现快速高效的推理。

🚀 快速开始

此模型设计用于与 Orpheus-FastAPI 配合使用，这是一个兼容 OpenAI 的文本转语音推理服务器。

兼容的推理服务器

你可以将此模型加载到以下服务器中：

• GPUStack
• LM Studio
• llama.cpp
• 任何其他兼容 GGUF 的 OpenAI 风格服务器

✨ 主要特性

• 基于预训练模型微调，在自定义语音数据集上训练，提升语音合成效果。
• 量化为 GGUF FP16 格式，实现快速高效推理。

🔧 技术细节

📄 许可证

本项目采用 Apache 许可证 2.0，可免费用于研究和商业用途。

🙌 鸣谢

• 原始模型作者：Canopy Labs
• 微调、量化和 API 封装：Lex-au，通过 Unsloth 和 Huggingface 的 TRL 库完成。

📚 引用

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-pt: Pretrained Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-pt}}
}

@misc{orpheus-kaya-2025,
  author = {Lex-au},
  title = {Orpheus-3b-Kaya-FP16: Fine-Tuned TTS Model (Quantised)},
  note = {Fine-tuned from canopylabs/orpheus-3b-0.1-pt},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-Kaya-FP16}}
}