Polish Reranker Bge V2

🚀 ポーランド語用リランカー bge-v2

このモデルは、BAAI/bge-reranker-v2-m3 をベースにして、大量のテキストペアデータセットでさらに微調整されたポーランド語用のリランカーです。

• RankNet損失 を利用し、sdadas/polish-reranker-roberta-v2 と同じデータでモデルを学習させました。
• BAAI/bge-reranker-v2.5-gemma2-lightweight を教師モデルとして蒸留を行いました。
• 学習後、元の重みと微調整した重みをマージして最終的なチェックポイントを作成しました。
• XLM - RoBERTa をカスタマイズし、Flash Attention 2 をサポートするようにしています。これらの機能を使用する場合は、trust_remote_code=True と attn_implementation="flash_attention_2" の引数でモデルを読み込んでください。このモデルでは特に重要です。なぜなら、BAAI/bge-reranker-v2-m3 は 8192 トークンの長いコンテキストをサポートしており、Flash Attention を使用すると、元のモデルに比べて推論速度が最大 400% 速くなる可能性があるからです。

ほとんどの場合、sdadas/polish-reranker-roberta-v2 の方がポーランド語でより良い結果を得られるため、こちらのモデルよりも推奨されます。このモデルの主な利点はコンテキスト長であり、長いドキュメントを含む一部のデータセットではより良い性能を発揮する可能性があります。

🚀 クイックスタート

💻 使用例

基本的な使用法

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import numpy as np

query = "Jak dożyć 100 lat?"
answers = [
    "Trzeba zdrowo się odżywiać i uprawiać sport.",
    "Trzeba pić alkohol, imprezować i jeździć szybkimi autami.",
    "Gdy trwała kampania politycy zapewniali, że rozprawią się z zakazem niedzielnego handlu."
]

model_name = "sdadas/polish-reranker-bge-v2"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(
    model_name,
    trust_remote_code=True,
    torch_dtype=torch.bfloat16,
    attn_implementation="flash_attention_2",
    device_map="cuda"
)
texts = [f"{query}</s></s>{answer}" for answer in answers]
tokens = tokenizer(texts, padding="longest", max_length=8192, truncation=True, return_tensors="pt").to("cuda")
output = model(**tokens)
results = output.logits.detach().cpu().float().numpy()
results = np.squeeze(results)
print(results.tolist())

📚 ドキュメント

評価結果

このモデルは、ポーランド語情報検索ベンチマークのリランカーカテゴリで NDCG@10 が 64.21 を達成しています。詳細な結果は PIRB Leaderboard を参照してください。

📄 ライセンス

このモデルのライセンスは gemma です。

🔧 技術詳細

• pipeline_tag: テキストランキング
• tags: transformers、情報検索
• 言語: ポーランド語
• ライブラリ名: sentence-transformers

📖 引用

@article{dadas2024assessing,
  title={Assessing generalization capability of text ranking models in Polish}, 
  author={Sławomir Dadas and Małgorzata Grębowiec},
  year={2024},
  eprint={2402.14318},
  archivePrefix={arXiv},
  primaryClass={cs.CL}
}