Bert Multilingual Passage Reranking Msmarco

🚀 多语言段落重排序BERT 🔃 🌍

本模型支持超100种语言的段落重排序，能有效提升搜索结果的相关性，可作为Elasticsearch结果的优化方案。

🚀 快速开始

模型描述

• 输入：支持超100种语言。查看支持的语言列表获取所有可用语言。
• 用途：该模块接收一个搜索查询[1]和一个段落[2]，计算该段落是否与查询匹配。它可用于优化Elasticsearch搜索结果，将相关性提升达100%。
• 架构：在BERT之上有一个密集连接的神经网络，它以768维的[CLS]标记作为输入并输出结果（Arxiv）。
• 输出：仅输出一个介于 -10 到 10 之间的值。查询和段落匹配度越高，得分越高。

预期用途和限制

查询[1]和段落[2]都必须能容纳在512个标记内。由于通常需要对前几十个搜索结果进行重排序，请记住推理时间约为300毫秒/查询。

如何使用

from transformers import AutoTokenizer, AutoModelForSequenceClassification

tokenizer = AutoTokenizer.from_pretrained("amberoad/bert-multilingual-passage-reranking-msmarco")

model = AutoModelForSequenceClassification.from_pretrained("amberoad/bert-multilingual-passage-reranking-msmarco")

该模型可作为Nboost库的直接替代品。通过这种方式，无需任何编码即可直接改进Elasticsearch搜索结果。

训练数据

该模型使用Microsoft MS Marco数据集进行训练。此训练数据集包含约4亿个查询、相关和不相关段落的元组。用于训练和评估的所有数据集列于此表。训练使用的数据集称为 Train Triples Large，评估在 Top 1000 Dev 上进行。开发数据集中共有6900个查询，每个查询对应从MS MARCO语料库中使用BM25检索到的前1000个段落。

训练过程

训练过程与此README中所述相同。查看他们发表在Arxiv上的优秀论文。

我们将BERT模型从仅支持英语改为Google的默认多语言无大小写BERT模型。

训练进行了400000步，在TPU V3 - 8上耗时约12小时。

评估结果

在英语Bing查询数据集中，我们看到该模型的性能与仅支持英语的模型相近。尽管训练数据仅为英语，但内部对私有数据的测试显示，该模型在德语上的准确率远高于其他可用模型。

微调模型	依赖项	评估集	搜索提升	GPU速度
amberoad/Multilingual-uncased-MSMARCO (本模型)		bing queries	+61% (0.29 vs 0.18)	~300 ms/query
nboost/pt-tinybert-msmarco		bing queries	+45% (0.26 vs 0.18)	~50ms/query
nboost/pt-bert-base-uncased-msmarco		bing queries	+62% (0.29 vs 0.18)	~300 ms/query
nboost/pt-bert-large-msmarco		bing queries	+77% (0.32 vs 0.18)	-
nboost/pt-biobert-base-msmarco		biomed	+66% (0.17 vs 0.10)	~300 ms/query

此表取自nboost并在第一行进行了扩展。

联系信息

Amberoad是一家专注于搜索和商业智能的公司。我们为您提供：

• 通过自然语言处理技术实现的高级公司内部搜索引擎
• 外部搜索引擎：查找竞争对手、客户和供应商

立即联系我们以受益于我们的专业知识：

训练和评估由Philipp Reissel和Igli Manaj完成。

Linkedin | 主页 | 邮箱

📄 许可证

本项目采用Apache - 2.0许可证。