Distilhubert Finetuned Cry Detector

🚀 distilhubert-finetuned-cry-detector

該模型是基於ntu-spml/distilhubert在未知數據集上微調得到的版本。它在評估集上取得了以下結果：

• 損失值：0.2255
• 準確率：0.9883
• F1值：0.9883
• 精確率：0.9883
• 召回率：0.9883
• 混淆矩陣：[[960, 10], [6, 389]]

📚 詳細文檔

模型描述

更多信息待補充。

預期用途與限制

更多信息待補充。

訓練與評估數據

更多信息待補充。

🔧 技術細節

訓練超參數

訓練過程中使用了以下超參數：

• 學習率：3e - 05
• 訓練批次大小：64
• 評估批次大小：64
• 隨機種子：123
• 梯度累積步數：2
• 總訓練批次大小：128
• 優化器：Adam（β1 = 0.9，β2 = 0.999，ε = 1e - 08）
• 學習率調度器類型：cosine_with_restarts
• 學習率調度器預熱比例：0.1
• 訓練輪數：20
• 標籤平滑因子：0.1

訓練結果

框架版本

• Transformers 4.44.2
• Pytorch 2.4.1+cu121
• Tokenizers 0.19.1

📄 許可證

本項目採用Apache - 2.0許可證。