Sbert All MiniLM L6 With Pooler

🚀 ONNX轉換all - MiniLM - L6 - v2

本項目實現了對sentence - transformers/all - MiniLM - L6 - v2模型的ONNX轉換。該項目將句子和段落映射到384維的密集向量空間，可用於聚類或語義搜索等任務。

🚀 快速開始

安裝依賴

若要使用此模型，需先安裝optimum：

python -m pip install optimum

使用示例

安裝完成後，可按以下方式使用模型：

from optimum.onnxruntime.modeling_ort import ORTModelForCustomTasks

model = ORTModelForCustomTasks.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
tokenizer = AutoTokenizer.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
inputs = tokenizer("I love burritos!", return_tensors="pt")
pred = model(**inputs)
embedding = pred['pooler_output']

✨ 主要特性

• 這是一個sentence - transformers的ONNX模型，能將句子和段落映射到384維的密集向量空間。
• 該自定義模型會獲取last_hidden_state和pooler_output，而使用默認ONNX配置導出的sentence - transformers模型僅包含last_hidden_state作為輸出。

📦 安裝指南

使用此模型前，需安裝optimum：

python -m pip install optimum

💻 使用示例

基礎用法

from optimum.onnxruntime.modeling_ort import ORTModelForCustomTasks

model = ORTModelForCustomTasks.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
tokenizer = AutoTokenizer.from_pretrained("vamsibanda/sbert-all-MiniLM-L6-with-pooler")
inputs = tokenizer("I love burritos!", return_tensors="pt")
pred = model(**inputs)
embedding = pred['pooler_output']

📄 許可證

本項目採用Apache 2.0許可證。