Bge Reranker V2 M3 Ko

🚀 リランカー (クロスエンコーダ)

埋め込みモデルとは異なり、リランカーは質問と文書を入力として使用し、埋め込みではなく直接類似度を出力します。リランカーにクエリとパッセージを入力することで、関連性スコアを取得できます。そして、このスコアはシグモイド関数によって[0,1]の浮動小数点数値にマッピングできます。

🚀 クイックスタート

このリランカーモデルは、質問と文書の入力から直接類似度を出力することができます。以下に、いくつかの使用方法を紹介します。

✨ 主な機能

• 埋め込みモデルとは異なり、質問と文書を入力として直接類似度を出力します。
• クエリとパッセージを入力することで関連性スコアを取得でき、シグモイド関数で[0,1]の値にマッピングできます。
• 多言語モデルで、韓国語に対して最適化されています。

📦 インストール

Transformersを使用する場合

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model = AutoModelForSequenceClassification.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')
tokenizer = AutoTokenizer.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')

SentenceTransformersを使用する場合

まず、Sentence Transformersライブラリをインストールします。

pip install -U sentence-transformers

FlagEmbeddingを使用する場合

まず、FlagEmbeddingライブラリをインストールします。

pip install -U FlagEmbedding

💻 使用例

基本的な使用法

Transformersを使用する場合

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model = AutoModelForSequenceClassification.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')
tokenizer = AutoTokenizer.from_pretrained('dragonkue/bge-reranker-v2-m3-ko')

features = tokenizer([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']],  padding=True, truncation=True, return_tensors="pt")

model.eval()
with torch.no_grad():
    logits = model(**features).logits
    scores = torch.sigmoid(logits)
    print(scores)
# [9.9997962e-01 5.0702977e-07]

SentenceTransformersを使用する場合

from sentence_transformers import CrossEncoder
import torch

model = CrossEncoder('dragonkue/bge-reranker-v2-m3-ko', default_activation_function=torch.nn.Sigmoid())

scores = model.predict([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']])
print(scores)
# [9.9997962e-01 5.0702977e-07]

FlagEmbeddingを使用する場合

from FlagEmbedding import FlagReranker

reranker = FlagReranker('dragonkue/bge-reranker-v2-m3-ko')

scores = reranker.compute_score([['몇 년도에 지방세외수입법이 시행됐을까?', '실무교육을 통해 ‘지방세외수입법’에 대한 자치단체의 관심을 제고하고 자치단체의 차질 없는 업무 추진을 지원하였다. 이러한 준비과정을 거쳐 2014년 8월 7일부터 ‘지방세외수입법’이 시행되었다.'], 
['몇 년도에 지방세외수입법이 시행됐을까?', '식품의약품안전처는 21일 국내 제약기업 유바이오로직스가 개발 중인 신종 코로나바이러스 감염증(코로나19) 백신 후보물질 ‘유코백-19’의 임상시험 계획을 지난 20일 승인했다고 밝혔다.']], normalize=True)
print(scores)
# [9.9997962e-01 5.0702977e-07]

📚 ドキュメント

モデル詳細

微調整

詳細は、https://github.com/FlagOpen/FlagEmbedding を参照してください。

評価

バイエンコーダとクロスエンコーダ

バイエンコーダはテキストを固定サイズのベクトルに変換し、それらの間の類似度を効率的に計算します。高速で、意味検索や分類などのタスクに最適で、大規模なデータセットを迅速に処理するのに適しています。

クロスエンコーダは、テキストのペアを直接比較して類似度スコアを計算し、より正確な結果を提供します。各ペアを処理する必要があるため速度は遅いですが、上位の結果を再ランキングするのに優れており、高度なRAG技術においてテキスト生成を強化するために重要です。

韓国語埋め込みベンチマーク with AutoRAG

(https://github.com/Marker-Inc-Korea/AutoRAG-example-korean-embedding-benchmark)

これは金融セクター向けの韓国語埋め込みベンチマークです。

Top-k 1

バイエンコーダ (Sentence Transformer)

クロスエンコーダ (リランカー)

Top-k 3

バイエンコーダ (Sentence Transformer)

クロスエンコーダ (リランカー)

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。