# 大規模語音預訓練

由rinna株式會社訓練的日語HuBERT基礎模型，基於約19,000小時的日語語音語料庫ReazonSpeech v1訓練。

HuBERT是一種自監督語音表徵學習模型，通過離線聚類步驟為類BERT預測損失提供對齊目標標籤，適用於語音識別、生成和壓縮任務。