Trans Encoder Bi Simcse Roberta Large

🚀 cambridgeltl/trans - encoder - bi - simcse - roberta - large

該項目是一個無監督句子編碼器（雙塔編碼器），由Liu等人（2021）提出。此模型使用從STS2012 - 2016、STS - b和SICK - R中採樣的未標記句子對進行訓練，以[princeton - nlp/unsup - simcse - roberta - large](https://huggingface.co/princeton - nlp/unsup - simcse - roberta - large)為基礎模型。請使用[CLS]（池化器之前）作為輸入的表示。

📚 詳細文檔

模型信息

引用信息

如果您使用了該模型，請引用以下論文：

@article{liu2021trans,
  title={Trans-Encoder: Unsupervised sentence-pair modelling through self-and mutual-distillations},
  author={Liu, Fangyu and Jiao, Yunlong and Massiah, Jordan and Yilmaz, Emine and Havrylov, Serhii},
  journal={arXiv preprint arXiv:2109.13059},
  year={2021}
}