Vectorizer.guava

🚀 vectorizer.guava のモデルカード

このモデルはSinequaによって開発されたベクトライザーです。文章やクエリを入力すると、埋め込みベクトルを生成します。文章のベクトルはベクトルインデックスに格納され、クエリベクトルはクエリ時にインデックス内の関連する文章を検索するために使用されます。

モデル名: vectorizer.guava

🚀 クイックスタート

このモデルは、文章やクエリから埋め込みベクトルを生成するために使用できます。以下のセクションでは、モデルの詳細、サポート言語、評価指標などについて説明します。

✨ 主な機能

• 複数の言語に対応したベクトル化機能
• 高速な推論時間と低いGPUメモリ使用量

📦 インストール

必要条件

• 最小Sinequaバージョン: 11.10.0
• FP16モデルとCUDAコンピュートキャパビリティ8.9以上のGPU（NVIDIA L4など）を使用するための最小Sinequaバージョン: 11.11.0
• Cudaコンピュートキャパビリティ: 5.0以上（FP16使用時は6.0以上）

🔧 技術詳細

モデルの概要

トレーニングデータ

このモデルは、all-MiniLM-L6-v2 モデルで引用されているすべてのデータセットを使用してトレーニングされまし。さらに、前述の最初の9つの言語について この論文 で引用されているデータセットでトレーニングされています。また、ポーランド語の機能については このデータセット で、繁体字中国語の機能についてはmsmarco-zhの翻訳版でトレーニングされています。

評価指標

英語

関連性スコアを決定するために、BEIRベンチマーク のデータセットで評価した結果を平均しました。すべてのデータセットは 英語 です。

繁体字中国語

このモデルは繁体字中国語の機能を持ち、msmarco-zhと同じ開発セットを繁体字中国語に翻訳したもので評価されています。

比較として、raspberry はこのデータセットで0.693のスコアを記録しています。

その他の言語

モデルの多言語機能をテストするために、MIRACLベンチマーク のデータセットで評価しました。すべてのトレーニング言語がベンチマークに含まれているわけではないため、存在する言語のみのメトリクスを報告しています。

スコア

関連性スコアは、いくつかの検索データセットにわたる平均として計算されています（以下の詳細を参照）。

推論時間

GPUメモリ使用量

GPUメモリ使用量は、バッチサイズ32のNVIDIA T4 GPUで実際のモデルが消費するGPUメモリの量のみを含みます。ONNX Runtimeが初期化時に消費する一定量のメモリ（使用するGPUによって0.5から1 GiB程度）は含まれていません。

サポートされる言語

このモデルは以下の言語でトレーニングおよびテストされています:

• 英語
• フランス語
• ドイツ語
• スペイン語
• イタリア語
• オランダ語
• 日本語
• ポルトガル語
• 中国語（簡体字）
• 中国語（繁体字）
• ポーランド語

これらの言語の他に、ベースモデルの事前学習時に使用された追加の91言語についても基本的なサポートが期待できます（XLM - R論文の付録Aを参照）。