Multilingual E5 Small Onnx

🚀 ONNX版本的intfloat/multilingual-e5-small

這是一個句子轉換模型，它可以將句子和段落映射到一個N維的密集向量空間，可用於聚類或語義搜索等任務。

該模型使用 onnx-convert 工具進行轉換，使用的參數如下：

python convert.sh --model_id intfloat/multilingual-e5-small --quantize QInt8 --optimize 2

模型有兩個可用版本：

• model.onnx - Float32版本，optimize=2
• model_opt2_QInt8.onnx - QInt8量化版本，optimize=2

🚀 快速開始

本模型可將句子和段落映射到N維密集向量空間，用於聚類或語義搜索等任務。使用 onnx-convert 工具並按如下參數完成轉換：

python convert.sh --model_id intfloat/multilingual-e5-small --quantize QInt8 --optimize 2

✨ 主要特性

• 可將句子和段落映射到N維密集向量空間。
• 適用於聚類或語義搜索等任務。
• 提供Float32和QInt8量化兩個版本。

📦 安裝指南

使用以下命令進行模型轉換：

python convert.sh --model_id intfloat/multilingual-e5-small --quantize QInt8 --optimize 2

📚 詳細文檔

模型版本

• model.onnx：Float32版本，optimize=2。
• model_opt2_QInt8.onnx：QInt8量化版本，optimize=2。

📄 許可證

本項目採用Apache 2.0許可證。