Distilhubert Finetuned Gtzan

D

Distilhubert Finetuned Gtzan

Developed by artyomboyko

基于distilhubert在GTZAN音乐分类数据集上微调的模型，用于音乐流派分类任务

Open Source License:Apache-2.0 #音乐分类 #高准确率 #音频特征提取

Downloads 16

Release Time : 8/23/2023

Model Overview

该模型是在GTZAN音乐数据集上微调的音频分类模型，能够识别10种不同的音乐流派

Model Features

高准确率

在GTZAN评估集上达到91%的准确率

轻量级

基于DistilHuBERT架构，相比原始HuBERT模型更轻量

音乐分类

专门针对音乐流派分类任务优化

Model Capabilities

音乐流派分类

音频特征提取

Use Cases

音乐分析

音乐流媒体分类

自动为音乐流媒体平台上的歌曲添加流派标签

准确率91%

音乐推荐系统

基于音乐流派特征改进推荐算法

🚀 微调版DistilHuBERT模型用于GTZAN数据集

本项目的模型是基于ntu-spml/distilhubert在GTZAN数据集上进行微调得到的。该模型在评估集上取得了出色的效果，能够为音频相关任务提供有力支持。

🚀 快速开始

本模型是ntu-spml/distilhubert在GTZAN数据集上的微调版本。它在评估集上取得了以下结果：

损失值：0.4989
准确率：0.91

🔧 技术细节

训练超参数

训练过程中使用了以下超参数：

学习率：4e-06
训练批次大小：4
评估批次大小：4
随机种子：42
梯度累积步数：2
总训练批次大小：8
优化器：Adam（β1=0.9，β2=0.999，ε=1e-08）
学习率调度器类型：线性
学习率调度器预热比例：0.1
训练轮数：50

训练结果

训练损失	轮数	步数	验证损失	准确率
0.2359	1.0	112	0.4776	0.87
0.1235	2.0	225	0.4872	0.84
0.2083	3.0	337	0.4910	0.85
0.19	4.0	450	0.4953	0.87
0.1128	5.0	562	0.4801	0.87
0.1644	6.0	675	0.4703	0.87
0.0699	7.0	787	0.4692	0.85
0.1082	8.0	900	0.4708	0.87
0.0898	9.0	1012	0.4347	0.89
0.1071	10.0	1125	0.5310	0.85
0.0727	11.0	1237	0.4765	0.87
0.0338	12.0	1350	0.4859	0.87
0.0233	13.0	1462	0.4713	0.87
0.0248	14.0	1575	0.5068	0.88
0.0263	15.0	1687	0.4874	0.88
0.0185	16.0	1800	0.4925	0.88
0.0142	17.0	1912	0.4766	0.89
0.0178	18.0	2025	0.4850	0.89
0.0153	19.0	2137	0.4660	0.88
0.012	20.0	2250	0.4831	0.88
0.0113	21.0	2362	0.4965	0.89
0.0106	22.0	2475	0.5098	0.89
0.011	23.0	2587	0.5093	0.89
0.009	24.0	2700	0.4989	0.91
0.0094	25.0	2812	0.4999	0.89
0.0441	26.0	2925	0.5197	0.88
0.0079	27.0	3037	0.5115	0.89
0.0072	28.0	3150	0.5136	0.88
0.007	29.0	3262	0.5394	0.88
0.0068	30.0	3375	0.5374	0.88
0.0061	31.0	3487	0.5221	0.88
0.0533	32.0	3600	0.5775	0.87
0.0055	33.0	3712	0.5632	0.88
0.0059	34.0	3825	0.5584	0.87
0.0051	35.0	3937	0.5444	0.88
0.0051	36.0	4050	0.5373	0.88
0.0045	37.0	4162	0.5723	0.87
0.0058	38.0	4275	0.5773	0.87
0.0043	39.0	4387	0.5455	0.88
0.0044	40.0	4500	0.5686	0.88
0.004	41.0	4612	0.5622	0.87
0.004	42.0	4725	0.5797	0.88
0.0042	43.0	4837	0.5621	0.88
0.0037	44.0	4950	0.5734	0.87
0.0048	45.0	5062	0.5774	0.88
0.0039	46.0	5175	0.5901	0.87
0.0043	47.0	5287	0.5743	0.88
0.0043	48.0	5400	0.5757	0.87
0.0037	49.0	5512	0.5710	0.88
0.0036	49.78	5600	0.5759	0.87

框架版本

Transformers 4.30.2
Pytorch 2.0.1+cu117
Datasets 2.13.1
Tokenizers 0.13.3

📄 许可证

本项目采用Apache-2.0许可证。

相关信息表格

属性	详情
模型类型	微调版DistilHuBERT模型
训练数据	marsyas/gtzan数据集
评估指标	准确率
基础模型	ntu-spml/distilhubert

Featured Recommended AI Models

Llama 3 Typhoon V1.5x 8b Instruct

专为泰语设计的80亿参数指令模型，性能媲美GPT-3.5-turbo，优化了应用场景、检索增强生成、受限生成和推理任务

大型语言模型

Transformers Supports Multiple Languages

Cadet-Tiny是一个基于SODA数据集训练的超小型对话模型，专为边缘设备推理设计，体积仅为Cosmo-3B模型的2%左右。

Transformers English

Roberta Base Chinese Extractive Qa

基于RoBERTa架构的中文抽取式问答模型，适用于从给定文本中提取答案的任务。

问答系统 Chinese

AIbase

Empowering the Future, Your AI Solution Knowledge Base

English 简体中文繁體中文にほんご

© 2025AIbase