# 對比學習預訓練

這是一個用於研究對比語言圖像預訓練中後門樣本檢測的預訓練模型，包含特定的後門觸發器BLTO。

STAR是一個基於監督對比預訓練變換器的模型，用於社交媒體寫作風格理解。

一套用於預訓練和微調基於SMILES的分子語言模型的神經語言模型工具，支持半監督學習

TOD-XLMR是基於XLM-RoBERTa開發的多語言任務導向對話專用模型，採用雙目標聯合訓練策略增強對話理解能力

ReACC-py-retriever是一個基於GraphCodeBERT的檢索增強代碼補全模型，專為Python代碼檢索和補全設計。

Wav2Vec2基礎版是在16kHz採樣的Librispeech語音音頻上進行了100小時預訓練和微調的自動語音識別模型。

使用SimCLR對比學習預訓練的半監督圖像分類模型，在STL-10數據集上訓練，包含10個物體類別

Wav2Vec2是一個強大的語音識別模型，通過自監督學習從原始音頻中提取特徵，並在有限標記數據下實現高性能語音識別。