# 低遅延

Qwen2.5-VL-7B-InstructのFP8量子化バージョンで、vLLMを通じて効率的なビジュアル - テキスト推論をサポートします。

MobileCLIP-S2は効率的な画像テキストモデルで、マルチモーダル強化トレーニングにより高速推論を実現し、コンパクトなサイズを維持しながら優れたゼロショット性能を提供します。

Distil-WhisperはWhisper large-v3の知識蒸留バージョンで、英語音声認識に特化し、より高速な推論速度を提供しながら、元のモデルに近い精度を維持します。

MobileNet V2はモバイルデバイス向けに設計された軽量な畳み込みニューラルネットワークで、遅延、モデルサイズ、精度のバランスを実現しています。

SnoopはRVC（Retrieval-based Voice Conversion）技術に基づく音声変換モデルで、主に音声変換タスクに使用されます。

MobileNet V2はモバイルデバイス向けに最適化された軽量なコンピュータビジョンモデルで、画像分類タスクで優れた性能を発揮します。

これは汎用セマンティックマッチングシナリオに適した中国語文埋め込みモデルで、蒸留技術により12層BERTから4層に縮小され、良好な性能を維持しながら推論速度を大幅に向上させています。

wav2vec2アーキテクチャに基づく音声キーワード検出モデル、OpenVINO量子化で最適化