Sbert All MiniLM L12 With Pooler

🚀 ONNX轉換all-MiniLM-L12-v2

本項目主要是將sentence-transformers/all-MiniLM-L12-v2模型轉換為ONNX格式。該模型可將句子和段落映射到384維的密集向量空間，可用於聚類或語義搜索等任務。

模型信息

🚀 快速開始

本項目是一個sentence-transformers的ONNX模型，它能將句子和段落映射到384維的密集向量空間，可用於聚類或語義搜索等任務。此自定義模型會輸出last_hidden_state和pooler_output，而使用默認ONNX配置導出的sentence-transformers模型僅包含last_hidden_state作為輸出。

📦 安裝指南

若要使用該模型，需先安裝optimum：

python -m pip install optimum

💻 使用示例

基礎用法

from optimum.onnxruntime.modeling_ort import ORTModelForCustomTasks

model = ORTModelForCustomTasks.from_pretrained("vamsibanda/sbert-all-MiniLM-L12-with-pooler")
tokenizer = AutoTokenizer.from_pretrained("vamsibanda/sbert-all-MiniLM-L12-with-pooler")
inputs = tokenizer("I love burritos!", return_tensors="pt")
pred = model(**inputs)
embedding = pred['pooler_output']

📄 許可證

本項目採用Apache-2.0許可證。