Gte Reranker Modernbert Base

🚀 gte-reranker-modernbert-base

我们很高兴推出 gte-modernbert 系列模型，该系列模型基于最新的 modernBERT 仅编码器预训练基础模型构建。gte-modernbert 系列模型包括文本嵌入模型和重排模型。

与当前开源社区中规模相近的模型相比，gte-modernbert 模型在多个文本嵌入和文本检索评估任务中表现出了具有竞争力的性能，这些评估包括 MTEB、LoCO 和 COIR 评估。

🚀 快速开始

本项目提供了 gte-reranker-modernbert-base 模型的使用方法，你可以根据自己的需求选择不同的库进行调用。

✨ 主要特性

• 性能优异：在多个文本嵌入和文本检索评估任务中表现出了具有竞争力的性能。
• 支持多库：支持 transformers、sentence-transformers 和 transformers.js 等库。
• 长输入支持：最大输入长度可达 8192 个标记。

📦 安装指南

安装 flash_attn（可选）

如果你使用 transformers 和 sentence-transformers，并且你的 GPU 支持，在安装了 flash_attn 后，将自动使用高效的 Flash Attention 2。这不是必需的。

pip install flash_attn

安装 sentence-transformers

pip install sentence-transformers

💻 使用示例

基础用法

使用 transformers 库

# Requires transformers>=4.48.0
import torch
from transformers import AutoModelForSequenceClassification, AutoTokenizer

model_name_or_path = "Alibaba-NLP/gte-reranker-modernbert-base"
tokenizer = AutoTokenizer.from_pretrained(model_name_or_path)
model = AutoModelForSequenceClassification.from_pretrained(
    model_name_or_path,
    torch_dtype=torch.float16,
)
model.eval()

pairs = [
    ["what is the capital of China?", "Beijing"],
    ["how to implement quick sort in python?", "Introduction of quick sort"],
    ["how to implement quick sort in python?", "The weather is nice today"],
]

with torch.no_grad():
    inputs = tokenizer(pairs, padding=True, truncation=True, return_tensors='pt', max_length=512)
    scores = model(**inputs, return_dict=True).logits.view(-1, ).float()
    print(scores)

# tensor([ 2.1387,  2.4609, -1.6729])

使用 sentence-transformers 库

# Requires transformers>=4.48.0
from sentence_transformers import CrossEncoder

model = CrossEncoder(
    "Alibaba-NLP/gte-reranker-modernbert-base",
    automodel_args={"torch_dtype": "auto"},
)

pairs = [
    ["what is the capital of China?", "Beijing"],
    ["how to implement quick sort in python?","Introduction of quick sort"],
    ["how to implement quick sort in python?", "The weather is nice today"],
]

scores = model.predict(pairs)
print(scores)
# [0.8945664  0.9213594  0.15742092]
# NOTE: Sentence Transformers calls Softmax over the outputs by default, hence the scores are in [0, 1] range.

使用 transformers.js 库

import {
  AutoTokenizer,
  AutoModelForSequenceClassification,
} from "@huggingface/transformers";

const model_id = "Alibaba-NLP/gte-reranker-modernbert-base";
const model = await AutoModelForSequenceClassification.from_pretrained(
  model_id,
  { dtype: "fp32" }, // Supported options: "fp32", "fp16", "q8", "q4", "q4f16"
);
const tokenizer = await AutoTokenizer.from_pretrained(model_id);

const pairs = [
  ["what is the capital of China?", "Beijing"],
  ["how to implement quick sort in python?", "Introduction of quick sort"],
  ["how to implement quick sort in python?", "The weather is nice today"],
];
const inputs = tokenizer(
  pairs.map((x) => x[0]),
  {
    text_pair: pairs.map((x) => x[1]),
    padding: true,
    truncation: true,
  },
);
const { logits } = await model(inputs);
console.log(logits.tolist()); // [[2.138258218765259], [2.4609625339508057], [-1.6775450706481934]]

📚 详细文档

模型概述

• 开发者：阿里巴巴集团通义实验室
• 模型类型：文本重排器
• 主要语言：英语
• 模型大小：149M
• 最大输入长度：8192 个标记

模型列表

训练详情

gte-modernbert 系列模型遵循之前 GTE 模型 的训练方案，唯一的区别是预训练语言模型基础从 GTE-MLM 替换为 ModernBert。有关更多训练详情，请参考我们的论文：mGTE: Generalized Long-Context Text Representation and Reranking Models for Multilingual Text Retrieval

评估

MTEB

其他模型的结果取自 MTEB 排行榜。由于 gte-modernbert 系列的所有模型参数都小于 1B，我们仅关注 MTEB 排行榜中参数小于 1B 的模型结果。

LoCo（长文档检索）

COIR（代码检索任务）

BEIR

招聘信息

我们的通义实验室团队正在招聘 研究实习生 和 全职研究员。 我们正在寻找在表征学习、大语言模型驱动的信息检索、检索增强生成（RAG）和基于代理的系统方面有专业知识的热情人士。 我们的团队位于充满活力的 北京 和 杭州 两座城市。 如果你充满好奇心，并渴望通过工作产生有意义的影响，我们很乐意收到你的来信。请将简历和简短的自我介绍发送至 dingkun.ldk@alibaba-inc.com。

引用信息

如果你发现我们的论文或模型有帮助，请随意引用我们。

@inproceedings{zhang2024mgte,
  title={mGTE: Generalized Long-Context Text Representation and Reranking Models for Multilingual Text Retrieval},
  author={Zhang, Xin and Zhang, Yanzhao and Long, Dingkun and Xie, Wen and Dai, Ziqi and Tang, Jialong and Lin, Huan and Yang, Baosong and Xie, Pengjun and Huang, Fei and others},
  booktitle={Proceedings of the 2024 Conference on Empirical Methods in Natural Language Processing: Industry Track},
  pages={1393--1412},
  year={2024}
}

@article{li2023towards,
  title={Towards general text embeddings with multi-stage contrastive learning},
  author={Li, Zehan and Zhang, Xin and Zhang, Yanzhao and Long, Dingkun and Xie, Pengjun and Zhang, Meishan},
  journal={arXiv preprint arXiv:2308.03281},
  year={2023}
}

🔧 技术细节

gte-modernbert 系列模型遵循之前 GTE 模型 的训练方案，唯一的区别是预训练语言模型基础从 GTE-MLM 替换为 ModernBert。有关更多训练细节，请参考我们的论文：mGTE: Generalized Long-Context Text Representation and Reranking Models for Multilingual Text Retrieval

📄 许可证

本项目采用 Apache-2.0 许可证。