Orpheus 3b Kaya Q2 K.gguf

🚀 Orpheus-3b-Kaya-Q2_K

這是預訓練模型 canopylabs/orpheus-3b-0.1-pretrained 的微調版本，在自定義語音數據集上進行訓練，並量化為 GGUF Q2_K 格式，以實現快速、高效的推理。

🚀 快速開始

此模型設計用於與 Orpheus-FastAPI 配合使用，這是一個兼容 OpenAI 的文本轉語音推理服務器。

兼容的推理服務器

你可以將此模型加載到以下服務器中：

• GPUStack
• LM Studio
• llama.cpp
• 任何其他兼容 GGUF 的 OpenAI 風格服務器

✨ 主要特性

• 模型類型：文本轉語音（TTS）
• 架構：令牌到音頻語言模型
• 參數數量：約 30 億
• 量化方式：8 位 GGUF（Q2_K）
• 採樣率：24kHz 單聲道
• 訓練輪數：1
• 訓練數據集：lex-au/Orpheus-3b-Kaya
• 支持語言：英語

📚 詳細文檔

模型信息

📄 許可證

本模型採用 Apache License 2.0 許可協議，可免費用於研究和商業用途。

🙌 致謝

• 原始模型由 Canopy Labs 開發。
• 微調、量化和 API 封裝由 Lex-au 通過 Unsloth 和 Huggingface 的 TRL 庫完成。

📚 引用

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-pt: Pretrained Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-pt}}
}

@misc{orpheus-kaya-2025,
  author = {Lex-au},
  title = {Orpheus-3b-Kaya-Q2_K: Fine-Tuned TTS Model (Quantised)},
  note = {Fine-tuned from canopylabs/orpheus-3b-0.1-pt},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-Kaya-Q2_K}}
}