Whisper Hindi Large V2

🚀 Whisper Hindi Large-v2

このモデルは、複数の公開されている自動音声認識（ASR）コーパスから入手可能なヒンディー語のデータを使用して、openai/whisper-large-v2 をファインチューニングしたバージョンです。Whisper ファインチューニングスプリントの一環としてファインチューニングされました。

注意: このモデルを学習するために使用されたコードは、whisper-finetune リポジトリで再利用可能です。

🚀 クイックスタート

このモデルを使用するには、以下の情報を参考にしてください。

💻 使用例

基本的な使用法

>>> import torch
>>> from transformers import pipeline

>>> # path to the audio file to be transcribed
>>> audio = "/path/to/audio.format"
>>> device = "cuda:0" if torch.cuda.is_available() else "cpu"

>>> transcribe = pipeline(task="automatic-speech-recognition", model="vasista22/whisper-hindi-large-v2", chunk_length_s=30, device=device)
>>> transcribe.model.config.forced_decoder_ids = transcribe.tokenizer.get_decoder_prompt_ids(language="hi", task="transcribe")

>>> print('Transcription: ', transcribe(audio)["text"])

高度な使用法

このコードは、whisper-jaxを使用した高速推論の例です。

>>> import jax.numpy as jnp
>>> from whisper_jax import FlaxWhisperForConditionalGeneration, FlaxWhisperPipline

>>> # path to the audio file to be transcribed
>>> audio = "/path/to/audio.format"

>>> transcribe = FlaxWhisperPipline("vasista22/whisper-hindi-large-v2", batch_size=16)
>>> transcribe.model.config.forced_decoder_ids = transcribe.tokenizer.get_decoder_prompt_ids(language="hi", task="transcribe")

>>> print('Transcription: ', transcribe(audio)["text"])

📦 インストール

このモデルを評価するには、whisper-finetune リポジトリにある評価コードを使用できます。同じリポジトリでは、whisper-jaxを使用した高速推論用のスクリプトも提供されています。

📚 ドキュメント

学習と評価データ

学習データ

• GramVaani ASR Corpus
• ULCA ASR Corpus
• Shrutilipi ASR Corpus
• Google/Fleurs Train+Dev set

評価データ

• GramVaani ASR Corpus Test Set
• Google/Fleurs Test Set

学習ハイパーパラメータ

学習中に使用されたハイパーパラメータは以下の通りです。

🔧 技術詳細

このモデルは、複数の公開されているASRコーパスから入手可能なヒンディー語のデータを使用して、openai/whisper-large-v2 をファインチューニングしたものです。

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

謝辞

この研究は Speech Lab, IIT Madras で行われました。この研究のための計算資源は、インド政府の電子情報技術省（MeitY）の「Bhashini: National Language translation Mission」プロジェクトによって提供されました。