Sbert All MiniLM L12 With Pooler

🚀 ONNX convert all-MiniLM-L12-v2

このモデルは、文章や段落を384次元の密ベクトル空間にマッピングし、クラスタリングや意味検索などのタスクに使用できます。

🚀 クイックスタート

このモデルは、sentence-transformers/all-MiniLM-L12-v2 をONNX形式に変換したものです。sentence-transformersのモデルをカスタマイズし、last_hidden_state と pooler_output を出力として持つようにしています。通常のsentence-transformersのONNXエクスポートでは last_hidden_state のみが出力として含まれます。

✨ 主な機能

• 文章や段落を384次元の密ベクトル空間にマッピングします。
• クラスタリングや意味検索などのタスクに使用できます。
• カスタムモデルで last_hidden_state と pooler_output を出力として持ちます。

📦 インストール

このモデルを使用するには、optimum をインストールする必要があります。以下のコマンドを実行してインストールしてください。

python -m pip install optimum

💻 使用例

基本的な使用法

from optimum.onnxruntime.modeling_ort import ORTModelForCustomTasks

model = ORTModelForCustomTasks.from_pretrained("vamsibanda/sbert-all-MiniLM-L12-with-pooler")
tokenizer = AutoTokenizer.from_pretrained("vamsibanda/sbert-all-MiniLM-L12-with-pooler")
inputs = tokenizer("I love burritos!", return_tensors="pt")
pred = model(**inputs)
embedding = pred['pooler_output']

📄 ライセンス

このモデルは、Apache-2.0ライセンスの下で提供されています。