wav2vec2-2-bart-large-no-adapter开源模型 - 免费将英语语音精准转换为文本

Wav2vec2 2 Bart Large No Adapter

Developed by sanchit-gandhi

该模型是基于LibriSpeech ASR数据集训练的自动语音识别(ASR)模型，能够将英语语音转换为文本。

Downloads 22

Release Time : 3/14/2022

Model Overview

这是一个从头开始训练的语音识别模型，专门用于英语语音转文本任务。模型在LibriSpeech评估集上取得了1.0267的词错误率(WER)。

低词错误率

在LibriSpeech评估集上取得了1.0267的词错误率(WER)，表现优异

端到端训练

模型从头开始训练，不依赖预训练权重

优化训练配置

采用Adam优化器和线性学习率调度器，配合梯度累积技术进行高效训练

英语语音识别

语音转文本

连续语音识别

语音转录

有声书转录

将英语有声读物自动转录为文本

高准确率的转录结果

会议记录

自动记录英语会议内容并生成文字记录

辅助技术

实时字幕生成

为英语视频或直播生成实时字幕

属性	详情
学习率（learning_rate）	3e - 05
训练批次大小（train_batch_size）	8
评估批次大小（eval_batch_size）	8
随机种子（seed）	42
梯度累积步数（gradient_accumulation_steps）	4
总训练批次大小（total_train_batch_size）	32
优化器（optimizer）	Adam（betas=(0.9, 0.999)，epsilon = 1e - 08）
学习率调度器类型（lr_scheduler_type）	线性（linear）
学习率调度器热身步数（lr_scheduler_warmup_steps）	500
训练轮数（num_epochs）	5.0
混合精度训练（mixed_precision_training）	原生自动混合精度（Native AMP）

训练损失值	轮数	步数	验证损失值	字错率
6.7189	0.56	500	6.9796	0.9350
6.5068	1.12	1000	6.4823	1.3923
6.4601	1.68	1500	6.1801	1.1578
6.1802	2.24	2000	6.0002	1.7750
6.0888	2.8	2500	5.8453	1.7581
6.0993	3.36	3000	5.7702	1.4096
6.0851	3.92	3500	5.6634	1.0944
5.9357	4.48	4000	5.6120	1.0267