Distil Ast Audioset

🚀 蒸餾音頻頻譜圖Transformer AudioSet

蒸餾音頻頻譜圖Transformer AudioSet是一個基於音頻頻譜圖Transformer架構的音頻分類模型。該模型是MIT/ast-finetuned-audioset-10-10-0.4593在AudioSet數據集上的蒸餾版本。

此模型使用HuggingFace的PyTorch框架進行訓練。所有訓練均在配備Tesla A100 GPU的Google Cloud Engine虛擬機上完成。訓練所需的所有腳本可在文件和版本選項卡中找到，通過Tensorboard記錄的訓練指標也可查看。

📚 詳細文檔

模型

評估結果

該模型在評估中取得了以下結果：

訓練過程

訓練超參數

訓練期間使用了以下超參數：

• learning_rate：3e - 05
• train_batch_size：32
• eval_batch_size：32
• seed：0
• gradient_accumulation_steps：4
• total_train_batch_size：128
• optimizer：Adam，betas=(0.9,0.999)，epsilon=1e - 08
• lr_scheduler_type：線性
• lr_scheduler_warmup_ratio：0.1
• num_epochs：10.0
• mixed_precision_training：原生自動混合精度（Native AMP）

訓練結果

免責聲明

請考慮預訓練數據集可能存在的偏差，這些偏差可能會影響該模型的結果。

作者

蒸餾音頻頻譜圖Transformer AudioSet由Ananto Joyoadikusumo、David Samuel Setiawan、Wilson Wongso進行訓練和評估。所有計算和開發工作均在Google Cloud上完成。

框架版本

• Transformers 4.27.0.dev0
• Pytorch 1.13.1+cu117
• Datasets 2.10.0
• Tokenizers 0.13.2

📄 許可證

本項目採用Apache-2.0許可證。