Jina Reranker V2 Base Multilingual Wiki Tr Rag Prefix

🚀 jina-reranker-v2-base-multilingual テスト

このモデルは、Cross Encoder をベースにしており、sentence-transformers ライブラリを使用して、jinaai/jina-reranker-v2-base-multilingual から微調整されています。このモデルは、テキストペアのスコアを計算することができ、テキストの再ランキングや意味検索に利用できます。

🚀 クイックスタート

このモデルは、Cross Encoder をベースにした微調整モデルで、sentence-transformers ライブラリを使用して開発されています。テキストペアに対してスコアを計算し、テキストの再ランキングや意味検索などのタスクで役立ちます。

✨ 主な機能

• Cross Encoder アーキテクチャをベースにしており、テキストペアの関連性スコアを効果的に計算できます。
• 事前学習モデルから微調整されており、良好な汎化能力を備えています。
• テキストの再ランキングと意味検索タスクをサポートしています。

📦 インストール

Sentence Transformers ライブラリのインストール

まず、Sentence Transformers ライブラリをインストールする必要があります。

pip install -U sentence-transformers

💻 使用例

基本的な使用法

ライブラリをインストールしたら、モデルをロードして推論を行うことができます。

from sentence_transformers import CrossEncoder

# 🤗 Hub からモデルをダウンロード
model = CrossEncoder("SMARTICT/jina-reranker-v2-base-multilingual-wiki-tr-rag-prefix")
# テキストペアのスコアを取得
pairs = [
    ['query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?', 'passage: Kumbara, özellikle çocuklara küçük yaşta para biriktirmenin ve tasarrufun önemini anlamalarını sağlamak için eğlenceli ve görsel bir araç sunar. İçine attıkları her kuruşu görerek birikimlerinin artışını gözlemlemeleri, onlarda tasarruf alışkanlığı kazanmalarına yardımcı olur.'],
    ['query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?', 'passage: Uzay araçlarında yakıt tasarrufu sağlamak için reaksiyon kontrol sistemlerine alternatif olarak ark jetleri, iyon iticileri veya Hall etkili iticiler gibi yüksek özgül itki motorları kullanılabilir. Ayrıca, ISS dahil bazı uzay araçları, dönme oranlarını kontrol etmek için dönen momentum çarklarından yararlanır.'],
    ['query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?', 'passage: Kubar, genellikle pipo, bong veya vaporizör kullanılarak içilir. Ayrıca sigara gibi sarılarak da tüketilebilir. Ancak kubar tek başına yanmadığı için, bu şekilde içildiğinde genellikle normal esrar veya tütün ile karıştırılır. Dekarboksile edilmiş kubar ise oral yolla da kullanılabilir.'],
    ['query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?', 'passage: Taşıma kuvveti, bir cismin havada yukarı doğru kaldırılmasına neden olan kuvvettir. Direnç kuvveti ise cismin hareketini yavaşlatan, ona karşı koyan kuvvettir. Hava taşımacılığında her iki kuvvet de önemlidir. Uçaklar uçabilmek için yeterli taşıma kuvveti üretmelidir. Ancak aynı zamanda direnci minimize etmek için tasarlanırlar çünkü direnç yakıt tüketimini artırır. Kara taşıtlarında ise düşük hızlarda direnç kuvveti ön plandadır. Ancak yüksek hızlarda, örneğin Formula 1 araçlarında, taşıma kuvveti de önemli hale gelir çünkü aracın yol tutuşunu sağlar.'],
    ['query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?', 'passage: Evet, yazıda da belirtildiği gibi kuvvet makineleri yakıt kullanan ısı makineleri ve doğal enerji kaynaklarını kullanan makinelere ayrılır. Örneğin, araçlarda kullanılan motorlar ısı makineleridir çünkü benzin veya dizel yakıtı kullanarak mekanik enerji üretirler. Rüzgar türbinleri ise rüzgarın kinetik enerjisini elektrik enerjisine dönüştüren doğal enerji kaynaklı kuvvet makineleridir.'],
]
scores = model.predict(pairs)
print(scores.shape)
# (5,)

高度な使用法

単一のテキストと他のテキストの類似度に基づいて、それらを並べ替えることもできます。

# 単一のテキストとの類似度に基づいて、異なるテキストを並べ替える
ranks = model.rank(
    'query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır?',
    [
        'passage: Kumbara, özellikle çocuklara küçük yaşta para biriktirmenin ve tasarrufun önemini anlamalarını sağlamak için eğlenceli ve görsel bir araç sunar. İçine attıkları her kuruşu görerek birikimlerinin artışını gözlemlemeleri, onlarda tasarruf alışkanlığı kazanmalarına yardımcı olur.',
        'passage: Uzay araçlarında yakıt tasarrufu sağlamak için reaksiyon kontrol sistemlerine alternatif olarak ark jetleri, iyon iticileri veya Hall etkili iticiler gibi yüksek özgül itki motorları kullanılabilir. Ayrıca, ISS dahil bazı uzay araçları, dönme oranlarını kontrol etmek için dönen momentum çarklarından yararlanır.',
        'passage: Kubar, genellikle pipo, bong veya vaporizör kullanılarak içilir. Ayrıca sigara gibi sarılarak da tüketilebilir. Ancak kubar tek başına yanmadığı için, bu şekilde içildiğinde genellikle normal esrar veya tütün ile karıştırılır. Dekarboksile edilmiş kubar ise oral yolla da kullanılabilir.',
        'passage: Taşıma kuvveti, bir cismin havada yukarı doğru kaldırılmasına neden olan kuvvettir. Direnç kuvveti ise cismin hareketini yavaşlatan, ona karşı koyan kuvvettir. Hava taşımacılığında her iki kuvvet de önemlidir. Uçaklar uçabilmek için yeterli taşıma kuvveti üretmelidir. Ancak aynı zamanda direnci minimize etmek için tasarlanırlar çünkü direnç yakıt tüketimini artırır. Kara taşıtlarında ise düşük hızlarda direnç kuvveti ön plandadır. Ancak yüksek hızlarda, örneğin Formula 1 araçlarında, taşıma kuvveti de önemli hale gelir çünkü aracın yol tutuşunu sağlar.',
        'passage: Evet, yazıda da belirtildiği gibi kuvvet makineleri yakıt kullanan ısı makineleri ve doğal enerji kaynaklarını kullanan makinelere ayrılır. Örneğin, araçlarda kullanılan motorlar ısı makineleridir çünkü benzin veya dizel yakıtı kullanarak mekanik enerji üretirler. Rüzgar türbinleri ise rüzgarın kinetik enerjisini elektrik enerjisine dönüştüren doğal enerji kaynaklı kuvvet makineleridir.',
    ]
)
# [{'corpus_id': ..., 'score': ...}, {'corpus_id': ..., 'score': ...}, ...]

📚 ドキュメント

モデル詳細

モデルの説明

モデルの出所

• ドキュメント：Sentence Transformers ドキュメント
• ドキュメント：Cross Encoder ドキュメント
• リポジトリ：GitHub の Sentence Transformers
• Hugging Face：Hugging Face の Cross Encoders

評価

指標

Cross Encoder 再ランキング（gooaq-dev データセット）

• データセット：gooaq-dev
• CrossEncoderRerankingEvaluator を使用して評価され、パラメータは以下の通りです。

  {
      "at_k": 10,
      "always_rerank_positives": false
  }
  

Cross Encoder 再ランキング（NanoMSMARCO_R100, NanoNFCorpus_R100 および NanoNQ_R100 データセット）

• データセット：NanoMSMARCO_R100, NanoNFCorpus_R100 および NanoNQ_R100
• CrossEncoderRerankingEvaluator を使用して評価され、パラメータは以下の通りです。

  {
      "at_k": 10,
      "always_rerank_positives": true
  }
  

Cross Encoder Nano BEIR（NanoBEIR_R100_mean データセット）

• データセット：NanoBEIR_R100_mean
• CrossEncoderNanoBEIREvaluator を使用して評価され、パラメータは以下の通りです。

  {
      "dataset_names": [
          "msmarco",
          "nfcorpus",
          "nq"
      ],
      "rerank_k": 100,
      "at_k": 10,
      "always_rerank_positives": true
  }
  

学習詳細

学習データセット

未命名データセット

• サイズ：26,004 個の学習サンプル
• 列：question、answer および label
• 最初の 1000 個のサンプルに基づく近似統計情報： | | 質問 | 回答 | ラベル | |------|------|------|------| | タイプ | 文字列 | 文字列 | 整数 | | 詳細 |
  • 最小：27 文字
  • 平均：78.97 文字
  • 最大：182 文字
  |
  • 最小：44 文字
  • 平均：273.24 文字
  • 最大：836 文字
  |
  • 0：~81.00%
  • 1：~19.00%
  |
• サンプル： | 質問 | 回答 | ラベル | |------|------|------| | query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır? | passage: Kumbara, özellikle çocuklara küçük yaşta para biriktirmenin ve tasarrufun önemini anlamalarını sağlamak için eğlenceli ve görsel bir araç sunar. İçine attıkları her kuruşu görerek birikimlerinin artışını gözlemlemeleri, onlarda tasarruf alışkanlığı kazanmalarına yardımcı olur. | 1 | | query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır? | passage: Uzay araçlarında yakıt tasarrufu sağlamak için reaksiyon kontrol sistemlerine alternatif olarak ark jetleri, iyon iticileri veya Hall etkili iticiler gibi yüksek özgül itki motorları kullanılabilir. Ayrıca, ISS dahil bazı uzay araçları, dönme oranlarını kontrol etmek için dönen momentum çarklarından yararlanır. | 0 | | query: Kumbara tasarruf bilincinin aşılanmasında nasıl bir araçtır? | passage: Kubar, genellikle pipo, bong veya vaporizör kullanılarak içilir. Ayrıca sigara gibi sarılarak da tüketilebilir. Ancak kubar tek başına yanmadığı için, bu şekilde içildiğinde genellikle normal esrar veya tütün ile karıştırılır. Dekarboksile edilmiş kubar ise oral yolla da kullanılabilir. | 0 |
• 損失関数：BinaryCrossEntropyLoss、パラメータは以下の通りです。

  {
      "activation_fn": "torch.nn.modules.linear.Identity",
      "pos_weight": 5
  }
  

学習ハイパーパラメータ

非デフォルトのハイパーパラメータ

• eval_strategy: steps
• per_device_train_batch_size: 16
• per_device_eval_batch_size: 16
• learning_rate: 2e-05
• num_train_epochs: 2
• warmup_ratio: 0.1
• bf16: True
• dataloader_num_workers: 4
• load_best_model_at_end: True

すべてのハイパーパラメータ

学習ログ

フレームワークのバージョン

• Python: 3.11.12
• Sentence Transformers: 4.0.2
• Transformers: 4.51.1
• PyTorch: 2.6.0+cu124
• Accelerate: 1.5.2
• Datasets: 3.5.0
• Tokenizers: 0.21.1

📄 ライセンス

このモデルは apache-2.0 ライセンスを使用しています。

📖 引用

BibTeX

Sentence Transformers

@inproceedings{reimers-2019-sentence-bert,
    title = "Sentence-BERT: Sentence Embeddings using Siamese BERT-Networks",
    author = "Reimers, Nils and Gurevych, Iryna",
    booktitle = "Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing",
    month = "11",
    year = "2019",
    publisher = "Association for Computational Linguistics",
    url = "https://arxiv.org/abs/1908.10084",
}