Faster Whisper Large V3 Turbo Int8 Ct2

🚀 whisper-large-v3-turbo の CTranslate2 変換 (INT8 量子化)

このモデルは、openai/whisper-large-v3-turbo を INT8 量子化を用いて CTranslate2 形式に変換したもので、主に faster-whisper とともに使用されます。

🚀 クイックスタート

このモデルは、音声自動認識のタスクに使用できます。以下の手順で利用を開始できます。

✨ 主な機能

• 多言語対応：英語、中国語、ドイツ語、スペイン語など、多数の言語に対応しています。
• 高速処理：faster-whisper との組み合わせにより、高速な音声認識が可能です。
• 量子化：INT8 量子化を使用することで、メモリ使用量を削減し、推論速度を向上させます。

📦 インストール

このモデルを使用するには、まず faster-whisper をインストールする必要があります。以下のコマンドを実行してください。

pip install faster-whisper

💻 使用例

基本的な使用法

from faster_whisper import WhisperModel

# モデルのロード
model = WhisperModel("faster-whisper-large-v3-turbo-int8-ct2", device="cpu", compute_type="int8")

# 音声ファイルの認識
segments, info = model.transcribe("audio.mp3", beam_size=5)

print("Detected language '%s' with probability %f" % (info.language, info.language_probability))

for segment in segments:
    print("[%.2fs -> %.2fs] %s" % (segment.start, segment.end, segment.text))

📚 ドキュメント

モデル詳細

モデルの詳細については、元の モデルカード を参照してください。

変換詳細

元のモデルは以下のコマンドを使用して変換されました。

ct2-transformers-converter --model whisper-large-v3-turbo --copy_files tokenizer.json preprocessor_config.json --output_dir faster-whisper-large-v3-turbo-int8-ct2 --quantization int8

📄 ライセンス

このモデルは MIT ライセンスの下で提供されています。