Whisper Medium.en Fine Tuned For ATC

🚀 航空交通管制（ATC）向けに微調整されたWhisper Medium ENモデル

このモデルは、OpenAIのWhisper Medium ENモデルを微調整したもので、航空交通管制（ATC） 通信データセットを対象に訓練されています。元の事前学習モデルと比較して、微調整により特定分野の航空通信の文字起こし精度が大幅に向上し、単語誤り率（WER）が84％低下 しています。このモデルは、ATC通信で一般的なアクセントの違いや曖昧な表現を処理するのに特に有効です。

✨ 主な機能

• 微調整最適化：OpenAI Whisper Medium ENベースモデルを基に、ATC通信データに対して微調整を行い、特定分野の文字起こし精度を大幅に向上させました。
• 高精度：微調整後のモデルの単語誤り率（WER）はわずか15.08％で、事前学習モデルの94.59％と比較して、相対的に84.06％向上しています。
• 幅広い適応性：様々なアクセント、非標準的な用語、ノイズや歪みのある通信内容を効果的に処理できます。

📚 ドキュメント

モデル概要

このモデルは、OpenAIのWhisper Medium ENモデルを微調整したもので、航空交通管制（ATC） 通信データセットを対象に訓練されています。元の事前学習モデルと比較して、微調整により特定分野の航空通信の文字起こし精度が大幅に向上し、単語誤り率（WER）が84％低下 しています。このモデルは、ATC通信で一般的なアクセントの違いや曖昧な表現を処理するのに特に有効です。

微調整後のモデルは、Hugging Faceでアクセスできます。

• ATC向けに微調整されたWhisper Medium EN
• ATC向けに微調整されたWhisper Medium EN（Faster Whisper）

モデルの説明

ATC向けに微調整されたWhisper Medium ENモデルは、パイロットと航空交通管制官の間の短く明確な通信を処理するように最適化されています。以下のデータセットを使用して微調整されています。

• ATCO2コーパス（1時間のテストサブセット）
• UWB - ATCCコーパス

ATCデータセット は、これら2つの元のデータソースを統合し、データをフィルタリングおよび精錬して、特定分野のATC通信の文字起こし精度を向上させています。

想定される用途

微調整されたWhisperモデルは、以下の用途に使用されることを想定しています。

• 航空通信の文字起こし：ATC通信の正確な文字起こしを提供し、英語のアクセントや表現の違いも考慮しています。
• 航空交通管制システム：パイロットとATC間の会話のリアルタイム文字起こしを支援し、状況認識能力の向上に役立ちます。
• 研究とトレーニング：ATC通信を研究したり、航空安全の新しいツールを開発する研究者、開発者、または航空専門家に有用です。

ATC文字起こしアシスタント を使用して、このモデルをオンラインでテストすることができます。このツールを使用すると、音声ファイルをアップロードして文字起こしを生成できます。

訓練過程

• ハードウェア：80GBメモリのA100 GPUを2枚使用して微調整を行いました。
• エポック数：10
• 学習率：1e - 5
• バッチサイズ：32（勾配累積による有効バッチサイズ）
• 拡張：訓練中に動的データ拡張技術（ガウスノイズ、ピッチ変換など）を適用しました。
• 評価指標：単語誤り率（WER）

制限事項

微調整されたモデルは特定のATC通信で良好な性能を発揮しますが、他の音声分野への汎化能力は限られている可能性があります。また、ほとんどの音声テキスト変換モデルと同様に、文字起こし精度は極低品質の音声や訓練過程で遭遇しなかった濃いアクセントの音声に影響を受ける可能性があります。

📄 ライセンス

このモデルはMITライセンスの下で提供されています。

🔗 参考資料

• ブログ記事：ATC向けにWhisperを微調整する：文字起こし精度を84％向上させる
• GitHubリポジトリ：ATCデータでWhisperを微調整する