Vectorizer V1 S En

🚀 vectorizer-v1-S-en モデルカード

このモデルはSinequaによって開発されたベクトライザーです。文章やクエリを入力すると、埋め込みベクトルを生成します。文章のベクトルはベクトルインデックスに保存され、クエリベクトルはクエリ時にインデックス内の関連する文章を検索するために使用されます。

モデル名: vectorizer-v1-S-en

🚀 クイックスタート

このモデルは、文章やクエリをベクトル化するために使用できます。以下に、その概要を説明します。

✨ 主な機能

• 与えられた文章やクエリから埋め込みベクトルを生成します。
• 文章のベクトルはベクトルインデックスに保存され、クエリベクトルはインデックス内の関連する文章を検索するために使用されます。

📦 インストール

必要条件

• 最小Sinequaバージョン: 11.10.0
• FP16モデルとCUDAコンピュートキャパビリティ8.9以上のGPU（NVIDIA L4など）を使用するための最小Sinequaバージョン: 11.11.0
• Cudaコンピュートキャパビリティ: 5.0以上（FP16を使用する場合は6.0以上）

📚 ドキュメント

サポートされる言語

このモデルは以下の言語で学習およびテストされています。

• 英語

スコア

関連性スコアは、14の検索データセットに対する平均値として計算されています（以下の詳細を参照）。

推論時間

GPUメモリ使用量

GPUメモリ使用量は、バッチサイズ32のNVIDIA T4 GPUで実際のモデルが消費するGPUメモリのみを含みます。ONNX Runtimeが初期化時に消費する固定量のメモリ（使用するGPUによって0.5から1 GiB程度）は含まれません。

モデルの詳細

概要

• パラメータ数: 2900万
• ベース言語モデル: English BERT-Small
• 大文字小文字とアクセントに非敏感
• 出力次元: 256（追加の全結合層で縮小）
• 学習手順: 最初のモデルは、クエリ - 文章のペアを使用して、この損失関数を用いたバッチ内負例戦略で学習されました。次に、2番目のモデルは、前のモデルから採掘された負例を含むクエリ - 文章 - 負例のトリプレットで学習されました。これは、ANCEのバリアントですが、ハイパーパラメータが異なります。

学習データ

このモデルは、Sinequaが選りすぐったGoogleのNatural Questionsデータセットで学習されました。

評価指標

関連性スコアを決定するために、BEIRベンチマークのデータセットで評価した結果を平均しました。すべてのデータセットは英語です。