Orpheus 3b Italian Spanish FT Q8 0.gguf

🚀 Orpheus-3b-FT-Q8_0

Orpheusは、自然で感情豊かな音声合成のためにファインチューニングされた高性能のテキスト読み上げモデルです。このリポジトリには、30億パラメータのモデルの8ビット量子化バージョンが含まれており、高品質な出力を維持しながら効率を最適化しています。

🚀 クイックスタート

1. この量子化モデルをlex-auのOrpheus - FASTAPIコレクションからダウンロードします。
2. 好みの推論サーバーにモデルを読み込み、サーバーを起動します。
3. Orpheus - FastAPIリポジトリをクローンします。

git clone https://github.com/Lex-au/Orpheus-FastAPI.git
cd Orpheus-FastAPI

4. ORPHEUS_API_URL環境変数を設定することで、FastAPIサーバーを推論サーバーに接続するように設定します。
5. リポジトリのREADMEの完全なインストールとセットアップ手順に従います。

✨ 主な機能

• 異なる特性を持つ6種類の音声オプション
• 笑い声、ため息などの感情タグのサポート
• RTX GPUでのCUDAアクセラレーション用に最適化
• 高品質な24kHzモノラルオーディオを生成
• 会話の自然さのためにファインチューニング

📦 インストール

この量子化モデルは、以下のLLM推論サーバーのいずれにも読み込むことができます。

• GPUStack - GPU最適化されたLLM推論サーバー（オススメ） - LAN/WANテンソル分割並列化をサポート
• LM Studio - GGUFモデルを読み込み、ローカルサーバーを起動
• llama.cpp server - 適切なモデルパラメータで実行
• 互換性のあるOpenAI API互換サーバー

💻 使用例

基本的な使用法

このモデルは、Orpheus - FastAPIフロントエンドに接続するLLM推論サーバーと共に使用するように設計されています。このフロントエンドは、ウェブUIとOpenAI互換のAPIエンドポイントの両方を提供します。

高度な使用法

利用可能な音声

モデルは6種類の異なる音声をサポートしています。

• Javi：男性、スペイン語、暖かい印象
• Sergio：男性、スペイン語、プロフェッショナル
• Maria：女性、スペイン語、友好的
• Pietro：男性、イタリア語、情熱的
• Giulia：女性、イタリア語、表現力豊か
• Carlo：男性、イタリア語、洗練された

感情タグ

以下のタグを挿入することで、音声に表現力を加えることができます。

• <laugh>、<chuckle>：笑い声
• <sigh>：ため息
• <cough>、<sniffle>：微妙な中断音
• <groan>、<yawn>、<gasp>：追加の感情表現

📚 ドキュメント

モデルの説明

Orpheus - 3b - FT - Q8_0は、30億パラメータのテキスト読み上げモデルで、複数の音声と感情表現をサポートし、自然な音声にテキスト入力を変換します。モデルは8ビット（Q8_0）形式に量子化されており、効率的な推論が可能で、消費者向けハードウェアでも利用できます。

技術仕様

制限事項

• CUDA互換GPUで最適なパフォーマンスが得られます。
• 生成速度はGPUの性能に依存します。

📄 ライセンス

このモデルはApache License 2.0の下で利用可能です。

引用と帰属

オリジナルのOrpheusモデルはCanopy Labsによって作成されました。このリポジトリには、Orpheus - FastAPIサーバーでの使用に最適化された量子化バージョンが含まれています。

この量子化モデルを研究やアプリケーションで使用する場合は、以下を引用してください。

@misc{orpheus-tts-2025,
  author = {Canopy Labs},
  title = {Orpheus-3b-0.1-ft: Text-to-Speech Model},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/canopylabs/orpheus-3b-0.1-ft}}
}

@misc{orpheus-quantised-2025,
  author = {Lex-au},
  title = {Orpheus-3b-FT-Q8_0: Quantised TTS Model with FastAPI Server},
  note = {GGUF quantisation of canopylabs/orpheus-3b-0.1-ft},
  year = {2025},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/lex-au/Orpheus-3b-FT-Q8_0.gguf}}
}