Bge Reranker V2 M3 Ko

🚀 重排器（交叉编码器）

与嵌入模型不同，重排器以问题和文档作为输入，直接输出相似度，而非嵌入向量。你可以通过向重排器输入查询和段落来获得相关性得分。该得分可以通过 sigmoid 函数映射到 [0,1] 范围内的浮点值。

🚀 快速开始

模型详情

使用 Transformers 库

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model = AutoModelForSequenceClassification.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')
tokenizer = AutoTokenizer.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')

features = tokenizer([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']],  padding=True, truncation=True, return_tensors="pt")

model.eval()
with torch.no_grad():
    logits = model(**features).logits
    scores = torch.sigmoid(logits)
    print(scores)
# [9.9997962e-01 5.0702977e-07]

使用 SentenceTransformers 库

首先安装 Sentence Transformers 库：

pip install -U sentence-transformers

from sentence_transformers import CrossEncoder

model = CrossEncoder('dragonkue/bge-reranker-v2-m3-ko', default_activation_function=torch.nn.Sigmoid())

scores = model.predict([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']])
print(scores)
# [9.9997962e-01 5.0702977e-07]

使用 FlagEmbedding 库

首先安装 FlagEmbedding 库：

pip install -U FlagEmbedding

from FlagEmbedding import FlagReranker

reranker = FlagReranker('dragonkue/bge-reranker-v2-m3-ko')

scores = reranker.compute_score([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']], normalize=True)
print(scores)
# [9.9997962e-01 5.0702977e-07]

微调

请参考：https://github.com/FlagOpen/FlagEmbedding

📚 详细文档

双编码器和交叉编码器

双编码器将文本转换为固定大小的向量，并高效地计算它们之间的相似度。它们速度快，非常适合语义搜索和分类等任务，适合快速处理大型数据集。

交叉编码器直接比较文本对以计算相似度得分，提供更准确的结果。虽然由于需要处理每一对文本，它们的速度较慢，但在对顶部结果进行重新排序方面表现出色，并且在高级 RAG 技术中对于增强文本生成非常重要。

使用 AutoRAG 的韩语嵌入基准测试

(https://github.com/Marker-Inc-Korea/AutoRAG-example-korean-embedding-benchmark)

这是一个针对金融领域的韩语嵌入基准测试。

前 1 名结果

双编码器（Sentence Transformer）

交叉编码器（重排器）

前 3 名结果

双编码器（Sentence Transformer）

交叉编码器（重排器）

📄 许可证

本项目采用 Apache-2.0 许可证。