🚀 distilhubert-finetuned-gtzan
该模型是 Sandiago21/distilhubert-finetuned-gtzan 在 GTZAN 数据集上的微调版本。它在评估集上取得了以下结果：
🚀 快速开始
此模型是在 GTZAN 数据集上对基础模型进行微调得到的，可用于音频分类任务。
📚 详细文档
模型描述
该模型是 Sandiago21/distilhubert-finetuned-gtzan 在 GTZAN 数据集上的微调版本，在评估集上有一定的准确率表现。
预期用途和限制
文档暂未提供相关信息。
训练和评估数据
文档暂未提供相关信息。
训练过程
训练超参数
训练过程中使用了以下超参数：
- 学习率：0.0001
- 训练批次大小：16
- 评估批次大小：16
- 随机种子：42
- 优化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e-08）
- 学习率调度器类型：线性
- 学习率调度器热身比例：0.1
- 训练轮数：40
训练结果
| 训练损失 |
轮数 |
步数 |
验证损失 |
准确率 |
| 0.0951 |
1.0 |
57 |
0.5566 |
0.87 |
| 0.0629 |
2.0 |
114 |
0.6819 |
0.83 |
| 0.0231 |
3.0 |
171 |
0.6118 |
0.86 |
| 0.0159 |
4.0 |
228 |
0.9208 |
0.83 |
| 0.0374 |
5.0 |
285 |
0.8746 |
0.85 |
| 0.1714 |
6.0 |
342 |
0.6671 |
0.87 |
| 0.2148 |
7.0 |
399 |
1.1850 |
0.79 |
| 0.0147 |
8.0 |
456 |
1.0551 |
0.79 |
| 0.0788 |
9.0 |
513 |
1.5179 |
0.79 |
| 0.0015 |
10.0 |
570 |
1.3290 |
0.8 |
| 0.0049 |
11.0 |
627 |
1.0943 |
0.85 |
| 0.0012 |
12.0 |
684 |
1.0667 |
0.85 |
| 0.0043 |
13.0 |
741 |
1.1816 |
0.82 |
| 0.0015 |
14.0 |
798 |
0.9108 |
0.88 |
| 0.0011 |
15.0 |
855 |
1.0289 |
0.87 |
| 0.001 |
16.0 |
912 |
0.7696 |
0.87 |
| 0.0006 |
17.0 |
969 |
0.8539 |
0.87 |
| 0.1001 |
18.0 |
1026 |
1.1917 |
0.78 |
| 0.0017 |
19.0 |
1083 |
1.0016 |
0.83 |
| 0.0525 |
20.0 |
1140 |
0.9513 |
0.88 |
| 0.0004 |
21.0 |
1197 |
0.9268 |
0.86 |
| 0.0003 |
22.0 |
1254 |
1.1209 |
0.82 |
| 0.0003 |
23.0 |
1311 |
0.9270 |
0.87 |
| 0.0003 |
24.0 |
1368 |
1.1148 |
0.84 |
| 0.0003 |
25.0 |
1425 |
1.0507 |
0.85 |
| 0.0002 |
26.0 |
1482 |
1.0156 |
0.86 |
| 0.0002 |
27.0 |
1539 |
1.0062 |
0.87 |
| 0.0002 |
28.0 |
1596 |
1.0124 |
0.87 |
| 0.0002 |
29.0 |
1653 |
1.0154 |
0.87 |
| 0.0002 |
30.0 |
1710 |
1.0092 |
0.88 |
| 0.0002 |
31.0 |
1767 |
1.0123 |
0.88 |
| 0.0175 |
32.0 |
1824 |
0.9928 |
0.88 |
| 0.0002 |
33.0 |
1881 |
1.0014 |
0.88 |
| 0.0115 |
34.0 |
1938 |
0.9989 |
0.88 |
| 0.0001 |
35.0 |
1995 |
0.9871 |
0.88 |
| 0.0001 |
36.0 |
2052 |
0.9920 |
0.88 |
| 0.0002 |
37.0 |
2109 |
0.9974 |
0.88 |
| 0.0002 |
38.0 |
2166 |
0.9950 |
0.88 |
| 0.0001 |
39.0 |
2223 |
0.9997 |
0.88 |
| 0.0001 |
40.0 |
2280 |
0.9951 |
0.88 |
框架版本
- Transformers 4.31.0
- Pytorch 2.0.1+cu117
- Datasets 2.13.1
- Tokenizers 0.13.3
📄 许可证
本模型采用 Apache-2.0 许可证。
| 属性 |
详情 |
| 模型类型 |
distilhubert-finetuned-gtzan |
| 训练数据 |
marsyas/gtzan |
| 评估指标 |
准确率 |
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
PyTorch
Transformers 支持多种语言