Ms Marco MiniLM L2 V2

🚀 MS Marco用クロスエンコーダ

このモデルは、MS Marco段落ランキングタスクで訓練されています。

このモデルは情報検索に使用できます。クエリを指定すると、そのクエリとすべての可能な段落（例えば、ElasticSearchで検索された段落）をエンコードし、段落を降順に並べ替えます。詳細については、SBERT.net 検索と再ランキングを参照してください。訓練コードはこちらで入手できます：SBERT.net MS Marcoの訓練

🚀 クイックスタート

✨ 主な機能

• このモデルはクロスエンコーダアーキテクチャに基づいており、MS Marco段落ランキングタスクで訓練されているため、情報検索シナリオに効果的に使用できます。
• SentenceTransformersとTransformersライブラリを使用した呼び出しをサポートしており、使いやすいです。

📦 インストール

ドキュメントに具体的なインストール手順が記載されていませんが、以下を参考にできます。 このモデルを使用するには、sentence-transformersまたはtransformersライブラリをインストールする必要があります。以下のコマンドを使用してインストールできます。

pip install sentence-transformers

または

pip install transformers

💻 使用例

基本的な使用法

SentenceTransformersライブラリを使用してモデルを呼び出す例：

from sentence_transformers import CrossEncoder

model = CrossEncoder('cross-encoder/ms-marco-MiniLM-L2-v2')
scores = model.predict([
    ("How many people live in Berlin?", "Berlin had a population of 3,520,031 registered inhabitants in an area of 891.82 square kilometers."),
    ("How many people live in Berlin?", "Berlin is well known for its museums."),
])
print(scores)
# [ 8.510401 -4.860082]

高度な使用法

Transformersライブラリを使用してモデルを呼び出す例：

from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch

model = AutoModelForSequenceClassification.from_pretrained('cross-encoder/ms-marco-MiniLM-L2-v2')
tokenizer = AutoTokenizer.from_pretrained('cross-encoder/ms-marco-MiniLM-L2-v2')

features = tokenizer(['How many people live in Berlin?', 'How many people live in Berlin?'], ['Berlin has a population of 3,520,031 registered inhabitants in an area of 891.82 square kilometers.', 'New York City is famous for the Metropolitan Museum of Art.'],  padding=True, truncation=True, return_tensors="pt")

model.eval()
with torch.no_grad():
    scores = model(**features).logits
    print(scores)

📚 ドキュメント

モデルの性能

以下の表は、さまざまな事前学習済みクロスエンコーダと、それらが TRECディープラーニング2019 および MS Marco段落再ランキング データセットでの性能を示しています。

注意：実行時間はV100 GPUで計算されています。

📄 ライセンス

このプロジェクトはApache 2.0ライセンスを採用しています。