🚀 wav2vec2-xls-r-1b-npsc
このモデルは、facebook/wav2vec2-xls-r-1b を NbAiLab/NPSC (16K_mp3_bokmaal) データセットでファインチューニングしたバージョンです。評価セットでは以下の結果を達成しています。
📚 ドキュメント
モデルの詳細
このモデルは、facebook/wav2vec2-xls-r-1b を NbAiLab/NPSC (16K_mp3_bokmaal) データセットでファインチューニングしたものです。
想定される用途と制限
詳細情報は後日提供予定です。
学習と評価データ
詳細情報は後日提供予定です。
学習手順
学習ハイパーパラメータ
学習中に使用されたハイパーパラメータは以下の通りです。
- 学習率: 0.0001
- 学習バッチサイズ: 16
- 評価バッチサイズ: 16
- シード: 42
- 勾配蓄積ステップ: 2
- 総学習バッチサイズ: 32
- オプティマイザ: Adam (betas=(0.9,0.999), epsilon=1e-08)
- 学習率スケジューラの種類: 線形
- 学習率スケジューラのウォームアップステップ: 2000
- エポック数: 15.0
- 混合精度学習: Native AMP
学習結果
| 学習損失 |
エポック |
ステップ |
検証損失 |
WER |
| 0.8361 |
0.32 |
500 |
0.6304 |
0.4970 |
| 0.5703 |
0.64 |
1000 |
0.3195 |
0.2775 |
| 0.5451 |
0.97 |
1500 |
0.2700 |
0.2246 |
| 0.47 |
1.29 |
2000 |
0.2564 |
0.2329 |
| 0.4063 |
1.61 |
2500 |
0.2459 |
0.2099 |
| 0.374 |
1.93 |
3000 |
0.2175 |
0.1894 |
| 0.3297 |
2.26 |
3500 |
0.2036 |
0.1755 |
| 0.3145 |
2.58 |
4000 |
0.1957 |
0.1757 |
| 0.3989 |
2.9 |
4500 |
0.1923 |
0.1723 |
| 0.271 |
3.22 |
5000 |
0.1889 |
0.1649 |
| 0.2758 |
3.55 |
5500 |
0.1768 |
0.1588 |
| 0.2683 |
3.87 |
6000 |
0.1720 |
0.1534 |
| 0.2341 |
4.19 |
6500 |
0.1689 |
0.1471 |
| 0.2316 |
4.51 |
7000 |
0.1706 |
0.1405 |
| 0.2383 |
4.84 |
7500 |
0.1637 |
0.1426 |
| 0.2148 |
5.16 |
8000 |
0.1584 |
0.1347 |
| 0.2085 |
5.48 |
8500 |
0.1601 |
0.1387 |
| 0.2944 |
5.8 |
9000 |
0.1566 |
0.1294 |
| 0.1944 |
6.13 |
9500 |
0.1494 |
0.1271 |
| 0.1853 |
6.45 |
10000 |
0.1561 |
0.1247 |
| 0.235 |
6.77 |
10500 |
0.1461 |
0.1215 |
| 0.2286 |
7.09 |
11000 |
0.1447 |
0.1167 |
| 0.1781 |
7.41 |
11500 |
0.1502 |
0.1199 |
| 0.1714 |
7.74 |
12000 |
0.1425 |
0.1179 |
| 0.1725 |
8.06 |
12500 |
0.1427 |
0.1173 |
| 0.143 |
8.38 |
13000 |
0.1448 |
0.1142 |
| 0.154 |
8.7 |
13500 |
0.1392 |
0.1104 |
| 0.1447 |
9.03 |
14000 |
0.1404 |
0.1094 |
| 0.1471 |
9.35 |
14500 |
0.1404 |
0.1088 |
| 0.1479 |
9.67 |
15000 |
0.1414 |
0.1133 |
| 0.1607 |
9.99 |
15500 |
0.1458 |
0.1171 |
| 0.166 |
10.32 |
16000 |
0.1652 |
0.1264 |
| 0.188 |
10.64 |
16500 |
0.1713 |
0.1322 |
| 0.1461 |
10.96 |
17000 |
0.1423 |
0.1111 |
| 0.1289 |
11.28 |
17500 |
0.1388 |
0.1097 |
| 0.1273 |
11.61 |
18000 |
0.1438 |
0.1074 |
| 0.1317 |
11.93 |
18500 |
0.1312 |
0.1066 |
| 0.1448 |
12.25 |
19000 |
0.1446 |
0.1042 |
| 0.1424 |
12.57 |
19500 |
0.1386 |
0.1015 |
| 0.1392 |
12.89 |
20000 |
0.1379 |
0.1005 |
| 0.1408 |
13.22 |
20500 |
0.1408 |
0.0992 |
| 0.1239 |
13.54 |
21000 |
0.1338 |
0.0968 |
| 0.1244 |
13.86 |
21500 |
0.1335 |
0.0957 |
| 0.1254 |
14.18 |
22000 |
0.1382 |
0.0950 |
| 0.1597 |
14.51 |
22500 |
0.1544 |
0.0970 |
| 0.1566 |
14.83 |
23000 |
0.1589 |
0.0963 |
フレームワークのバージョン
- Transformers 4.17.0.dev0
- Pytorch 1.10.2+cu113
- Datasets 1.18.3.dev0
- Tokenizers 0.11.0
📄 ライセンス
このモデルは、Apache-2.0ライセンスの下で提供されています。
情報テーブル
| 属性 |
詳情 |
| モデルタイプ |
音声認識モデル |
| 学習データ |
NbAiLab/NPSC (16K_mp3_bokmaal) |
%20--%3e%3cdefs%3e%3cstyle%3e%20.st0%20{%20fill:%20%23061b40;%20}%20.st1%20{%20fill:%20%23306af1;%20}%20.st2%20{%20fill:%20%235ce5cf;%20}%20%3c/style%3e%3c/defs%3e%3cg%3e%3cpath%20class='st0'%20d='M55,10.5h9v3h-9v9h12V7.5h-12v3ZM64,19.5h-6v-3h6v3Z'/%3e%3cpolygon%20class='st0'%20points='69%2016.5%2078%2016.5%2078%2019.5%2069%2019.5%2069%2022.5%2081%2022.5%2081%2013.5%2072%2013.5%2072%2010.5%2081%2010.5%2081%207.5%2069%207.5%2069%2016.5'/%3e%3cpolygon%20class='st0'%20points='95%2010.5%2095%207.5%2083%207.5%2083%2022.5%2095%2022.5%2095%2019.5%2086%2019.5%2086%2016.5%2095%2016.5%2095%2013.5%2086%2013.5%2086%2010.5%2095%2010.5'/%3e%3cpath%20class='st0'%20d='M40,1.5v21h11.6l1.4-1.4v-7.6h0c0,0-1.4-1.5-1.4-1.5l1.4-1.4V2.9l-1.4-1.4h-11.6ZM50,19.5h-7v-6h7v6ZM50,10.5h-7v-6h7v6Z'/%3e%3c/g%3e%3cpath%20class='st1'%20d='M23.1,24L14.7,4.8l-4.9,11.2h3.8l-1.8,4H3.3L12.1,0H2C.9,0,0,.9,0,2v20c0,1.1.9,2,2,2h21.1Z'/%3e%3cpath%20class='st2'%20d='M34,0h-16.8l10.6,24h6.2c1.1,0,2-.9,2-2V2C36,.9,35.1,0,34,0ZM32.5,20h-4V4h4v16Z'/%3e%3c/svg%3e)
Transformers 複数言語対応