Cotmae Base Msmarco Reranker

🚀 CoT-MAE MS-Marco段落重排器

CoT-MAE是一種基於Transformer的掩碼自編碼器預訓練架構，專為密集段落檢索而設計。CoT-MAE MS-Marco段落重排器是一個使用CoT-MAE檢索器挖掘的MS-Marco困難負樣本，藉助Tevatron工具包訓練得到的重排器。

更多詳細信息可在我們的論文和代碼中找到。

論文：用於密集段落檢索的上下文掩碼自編碼器

代碼：caskcsg/ir/cotmae

✨ 主要特性

• 基於Transformer的掩碼自編碼器預訓練架構，適用於密集段落檢索。
• 使用CoT-MAE檢索器挖掘的MS-Marco困難負樣本進行訓練。

📚 詳細文檔

分數

MS-Marco段落全排序 + 前200名重排

我們首先使用CoT-MAE MS-Marco段落檢索器（名為cotmae_base_msmarco_retriever）進行檢索，然後使用重排器對前200名的檢索結果進行重新打分。性能如下：

📄 許可證

暫未提供相關許可證信息。

📖 引用

如果您發現我們的工作有用，請引用我們的論文：

@misc{https://doi.org/10.48550/arxiv.2208.07670,
  doi = {10.48550/ARXIV.2208.07670},
  url = {https://arxiv.org/abs/2208.07670},
  author = {Wu, Xing and Ma, Guangyuan and Lin, Meng and Lin, Zijia and Wang, Zhongyuan and Hu, Songlin},
  keywords = {Computation and Language (cs.CL), Artificial Intelligence (cs.AI), FOS: Computer and information sciences, FOS: Computer and information sciences},
  title = {ConTextual Mask Auto-Encoder for Dense Passage Retrieval},
  publisher = {arXiv},
  year = {2022},
  copyright = {arXiv.org perpetual, non-exclusive license}
}