Jina Embeddings V2 Base Code GGUF

🚀 jina-embeddings-v2-base-code-GGUF

本項目提供了 jina-embeddings-v2-base-code 模型的量化版本，可通過 LlamaEdge 運行，適用於特徵提取、句子相似度計算等場景。

🚀 快速開始

原模型

原模型為 jinaai/jina-embeddings-v2-base-code。

使用 LlamaEdge 運行

• LlamaEdge 版本：v0.14.17
• 提示模板
  • 提示類型：embedding
• 上下文大小：8192
• 嵌入維度：768
• 作為 LlamaEdge 服務運行

wasmedge --dir .:. --nn-preload default:GGML:AUTO:jina-embeddings-v2-base-code-f16.gguf \
  llama-api-server.wasm \
  --prompt-template embedding \
  --ctx-size 8192 \
  --model-name jina-embeddings-v2-base-code

📦 量化後的 GGUF 模型

使用 llama.cpp b4273 進行量化

📄 許可證

本項目採用 apache-2.0 許可證。