Orpheus 3b Chinese FT Q8 0.gguf

🚀 Orpheus-3b-Chinese-FT-Q8_0

このモデルは、canopylabs/3b-zh-ft-research_release の量子化バージョンです。Orpheusは、自然で感情豊かな音声合成のために微調整された高性能なテキスト・トゥ・スピーチ（TTS）モデルです。このリポジトリには、30億パラメータのモデルの8ビット量子化バージョンが収められており、高品質な出力を維持しながら効率を最適化しています。

✨ 主な機能

• 多様な音声選択：2種類の異なる特徴を持つ音声オプションがあります。
• 感情タグ対応：笑い声やため息などの感情タグをサポートしています。
• CUDA加速最適化：RTX GPUでのCUDA加速に最適化されています。
• 高品質オーディオ出力：24kHzの高品質モノラルオーディオを生成します。
• 会話的自然性：会話的な自然さのために微調整されています。

📦 インストール

互換性のある推論サーバー

この量子化モデルは、以下のLLM推論サーバーにロードできます。

• GPUStack - GPU最適化されたLLM推論サーバー（おすすめ） - LAN/WANテンソル分割並列化をサポート
• LM Studio - GGUFモデルをロードしてローカルサーバーを起動
• llama.cpp server - 適切なモデルパラメータで実行
• 互換性のあるOpenAI API互換サーバー

クイックスタート

1. lex-auのOrpheus-FASTAPIコレクション からこの量子化モデルをダウンロードします。
2. 好みの推論サーバーにモデルをロードし、サーバーを起動します。
3. Orpheus-FastAPIリポジトリをクローンします。

git clone https://github.com/Lex-au/Orpheus-FastAPI.git
cd Orpheus-FastAPI

4. ORPHEUS_API_URL 環境変数を設定して、FastAPIサーバーを推論サーバーに接続するように構成します。
5. リポジトリのREADME の完全なインストールとセットアップ手順に従います。

💻 使用例

基本的な使用法

このモデルは、Orpheus-FastAPI フロントエンドに接続するLLM推論サーバーとともに使用するように設計されています。このフロントエンドは、Web UIとOpenAI互換のAPIエンドポイントの両方を提供します。

利用可能な音声

このモデルは、2種類の異なる音声をサポートしています。

• 长乐：女性、中国語（北京語）、穏やかな声
• 白芷：女性、中国語（北京語）、明瞭な声

感情タグ

以下のタグを挿入することで、音声に表現力を加えることができます。

• <laugh>、<chuckle>：笑い声
• <sigh>：ため息
• <cough>、<sniffle>：微妙な中断音
• <groan>、<yawn>、<gasp>：追加の感情表現

🔧 技術詳細

• アーキテクチャ：特殊なトークンからオーディオへのシーケンスモデル
• パラメータ数：約30億
• 量子化：8ビット（GGUF Q8_0形式）
• オーディオサンプルレート：24kHz
• 入力：オプションの音声選択と感情タグ付きのテキスト
• 出力：高品質のWAVオーディオ
• 言語：中国語（北京語）
• ハードウェア要件：CUDA互換GPU（推奨：RTXシリーズ）
• 統合方法：外部LLM推論サーバー + Orpheus-FastAPIフロントエンド

制限事項

• CUDA互換GPUで最適なパフォーマンスが得られます。
• 生成速度はGPUの性能に依存します。

📄 ライセンス

このモデルは、Apache License 2.0 の下で利用可能です。

引用と帰属

オリジナルのOrpheusモデルはCanopy Labsによって作成されました。このリポジトリには、Orpheus-FastAPIサーバーでの使用に最適化された量子化バージョンが含まれています。

この量子化モデルを研究やアプリケーションで使用する場合は、以下のように引用してください。

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-ft: Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-ft}}
}

@misc{orpheus-quantised-2025,
  author = {Lex-au},
  title = {Orpheus-3b-FT-Q8_0: Quantised TTS Model with FastAPI Server},
  note = {GGUF quantisation of canopylabs/orpheus-3b-0.1-ft},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-FT-Q8_0.gguf}}
}