wav2vec2-large-xls-r-300m-greekオープンソースモデル - ギリシャ語の音声を高精度に識別するのを支援！

Wav2vec2 Large Xls R 300m Greek

jerrychatzによって開発

Common Voiceデータセットで訓練されたギリシャ語音声認識モデル、wav2vec2アーキテクチャを採用

ダウンロード数 19

リリース時間 : 3/2/2022

モデル概要

このモデルはギリシャ語向けの自動音声認識(ASR)モデルで、Facebookのwav2vec2アーキテクチャに基づいて訓練されており、ギリシャ語音声をテキストに変換するタスクに適しています。

大規模事前学習

3億パラメータの大規模モデルアーキテクチャにより、強力な音声特徴抽出能力を有する

ギリシャ語最適化

ギリシャ語音声データに特化して訓練・最適化されている

効率的な訓練

混合精度訓練や勾配累積などの技術を採用し、訓練効率を向上

ギリシャ語音声認識

音声テキスト変換

連続音声認識

音声文字起こし

ギリシャ語会議議事録

ギリシャ語会議録音を自動的に文字記録に変換

単語誤り率約33.38%

音声アシスタント

ギリシャ語音声アシスタントに音声認識機能を提供

教育

言語学習アプリケーション

ギリシャ語学習者の発音・リスニング練習を支援

このモデルは、common_voiceデータセットを使用してゼロから学習されました。評価セットでは、以下の結果を達成しています。

このモデルは、common_voiceデータセットを用いて学習され、評価セットで特定の損失と単語誤り率を達成しています。以下に、学習に関する詳細情報を示します。

学習中に使用されたハイパーパラメータは以下の通りです。

パラメータ	値
学習率 (learning_rate)	3e-05
学習バッチサイズ (train_batch_size)	16
評価バッチサイズ (eval_batch_size)	8
シード (seed)	42
勾配累積ステップ数 (gradient_accumulation_steps)	2
総学習バッチサイズ (total_train_batch_size)	32
オプティマイザ (optimizer)	Adam (betas=(0.9,0.999), epsilon=1e-08)
学習率スケジューラの種類 (lr_scheduler_type)	線形 (linear)
エポック数 (num_epochs)	30
混合精度学習 (mixed_precision_training)	ネイティブAMP (Native AMP)

学習損失 (Training Loss)	エポック (Epoch)	ステップ (Step)	検証損失 (Validation Loss)	単語誤り率 (Wer)
0.0106	1.72	200	0.5519	0.3537
0.0249	3.45	400	0.5174	0.3465
0.0206	5.17	600	0.4721	0.3323
0.0221	6.89	800	0.4652	0.3373
0.0204	8.62	1000	0.4883	0.3389
0.0192	10.34	1200	0.4785	0.3389
0.0186	12.07	1400	0.4789	0.3378
0.0172	13.79	1600	0.4915	0.3347
0.0184	15.52	1800	0.4759	0.3440
0.0168	17.24	2000	0.4891	0.3371
0.0155	18.96	2200	0.4928	0.3394
0.0146	20.69	2400	0.4834	0.3357
0.0146	22.41	2600	0.4814	0.3362
0.0151	24.14	2800	0.4791	0.3345
0.0136	25.86	3000	0.4825	0.3356
0.0136	27.58	3200	0.4850	0.3351
0.0127	29.31	3400	0.4823	0.3338