Vectorizer V1 S Multilingual

🚀 vectorizer-v1-S-multilingual

このモデルはSinequaによって開発されたベクトライザーです。文章やクエリを入力すると、埋め込みベクトルを生成します。文章のベクトルはベクトルインデックスに保存され、クエリベクトルはクエリ時にインデックス内の関連する文章を検索するために使用されます。

🚀 クイックスタート

このモデルは、文章やクエリから埋め込みベクトルを生成することができます。生成された文章ベクトルはベクトルインデックスに保存され、クエリベクトルはインデックス内の関連する文章を検索するために使用されます。

✨ 主な機能

• 複数言語に対応: 英語、フランス語、ドイツ語、スペイン語をサポートしています。
• ケースとアクセントに非依存: 大文字小文字やアクセントに関係なく、同じ埋め込みベクトルを生成します。

📚 ドキュメント

サポートされる言語

このモデルは以下の言語で訓練およびテストされています。

• 英語
• フランス語
• ドイツ語
• スペイン語

スコア

関連性スコアは、14の検索データセットにわたる平均として計算されています（評価指標の詳細を参照）。

推論時間

GPUメモリ使用量

GPUメモリ使用量は、バッチサイズ32のNVIDIA T4 GPU上で実際のモデルが消費するGPUメモリの量のみを含みます。ONNX Runtimeが初期化時に消費する固定量のメモリ（使用するGPUによって0.5から1 GiB程度）は含まれていません。

要件

• 最小Sinequaバージョン: 11.10.0
• FP16モデルとCUDAコンピュートキャパビリティ8.9以上のGPU（NVIDIA L4など）を使用するための最小Sinequaバージョン: 11.11.0
• Cudaコンピュートキャパビリティ: 5.0以上（FP16使用時は6.0以上）

モデルの詳細

概要

• パラメータ数: 3900万
• ベース言語モデル: Sinequa独自のBERT-Small（論文）で、サポートされる4つの言語で事前学習されています。
• ケースとアクセントに非依存
• 訓練手順: バッチ内ネガティブを使用したクエリ-文章ペア

訓練データ

• Natural Questions (論文, 公式ページ)
  • 元の英語データセット
  • 他の3つのサポートされる言語の翻訳データセット

評価指標

関連性スコアを決定するために、BEIRベンチマークのデータセットで評価した結果を平均しました。すべてのデータセットは英語です。

このモデルの多言語能力をテストするために、MIRACLベンチマークのデータセットで評価しました。すべての訓練言語がベンチマークに含まれているわけではないため、存在する言語のみの指標を報告しています。