Wav2vec Tr Lite AG

🚀 wav2vec-tr-lite-AG

このモデルは自動音声認識タスクに特化したモデルで、Common Voiceのトルコ語データセットを用いて学習されています。

🚀 クイックスタート

モデルの使用方法

このモデルは（言語モデルを使用せずに）直接以下のように使用できます。

import torch
import torchaudio
from datasets import load_dataset
from transformers import Wav2Vec2ForCTC, Wav2Vec2Processor

test_dataset = load_dataset("common_voice", "tr", split="test[:2%]") 

processor = Wav2Vec2Processor.from_pretrained("emre/wav2vec-tr-lite-AG")
model = Wav2Vec2ForCTC.from_pretrained("emre/wav2vec-tr-lite-AG")

resampler = torchaudio.transforms.Resample(48_000, 16_000)

学習時のハイパーパラメータ

学習時には以下のハイパーパラメータが使用されました。

• learning_rate: 0.00005
• train_batch_size: 2
• eval_batch_size: 8
• seed: 42
• distributed_type: multi-GPU
• num_devices: 2
• gradient_accumulation_steps: 8
• total_train_batch_size: 32
• total_eval_batch_size: 16
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• lr_scheduler_warmup_steps: 500
• num_epochs: 30.0
• mixed_precision_training: Native AMP

学習結果

フレームワークのバージョン

• Transformers 4.12.0.dev0
• Pytorch 1.8.1
• Datasets 1.14.1.dev0
• Tokenizers 0.10.3

📄 ライセンス

このモデルはApache-2.0ライセンスの下で提供されています。

📚 ドキュメント

モデル情報