Distilhubert Finetuned Gtzan

🚀 distilhubert-finetuned-hyperparam-gtzan

本模型是 ntu-spml/distilhubert 在 GTZAN 数据集上的微调版本。它在评估集上取得了以下结果：

• 损失值：1.2045
• 准确率：0.86

🚀 快速开始

此模型为音频分类任务提供了预训练好的模型基础，可直接用于相关任务的微调或推理。

📚 详细文档

模型描述

本模型是基于 ntu-spml/distilhubert 在 GTZAN 数据集上进行微调得到的。不过目前关于模型的更多详细信息还有待补充。

预期用途与限制

目前关于该模型的预期用途和限制的详细信息还有待补充。

训练和评估数据

目前关于训练和评估数据的详细信息还有待补充。

训练过程

训练超参数

训练过程中使用了以下超参数：

• 学习率：3e-05
• 训练批次大小：8
• 评估批次大小：8
• 随机种子：42
• 优化器：使用 OptimizerNames.ADAMW_TORCH，β 值为 (0.9, 0.999)，ε 值为 1e-08，无额外优化器参数
• 学习率调度器类型：线性
• 学习率调度器预热比例：0.1
• 训练轮数：30

训练结果

框架版本

• Transformers 4.48.0.dev0
• Pytorch 2.6.0+cu126
• Datasets 3.2.0
• Tokenizers 0.21.0

📄 许可证

本项目采用 Apache-2.0 许可证。