Multilingual E5 Large Instruct Q6 K GGUF

🚀 多語言-e5-large-instruct-Q6_K-GGUF

本項目將模型從 intfloat/multilingual-e5-large-instruct 轉換為 GGUF 格式，轉換過程藉助 llama.cpp 並通過 ggml.ai 的 GGUF-my-repo 空間完成。你可以參考 原始模型卡片 瞭解該模型的更多詳細信息。

🚀 快速開始

✨ 安裝 llama.cpp

可以通過 brew（適用於 Mac 和 Linux）安裝 llama.cpp：

brew install llama.cpp

💻 使用 llama.cpp 進行推理

可以使用 llama.cpp 的服務器模式或命令行界面（CLI）進行推理。

命令行界面（CLI）

llama-cli --hf-repo kcccat/multilingual-e5-large-instruct-Q6_K-GGUF --hf-file multilingual-e5-large-instruct-q6_k.gguf -p "The meaning to life and the universe is"

服務器模式

llama-server --hf-repo kcccat/multilingual-e5-large-instruct-Q6_K-GGUF --hf-file multilingual-e5-large-instruct-q6_k.gguf -c 2048

💡 另一種使用方式

你也可以按照 Llama.cpp 倉庫中列出的 使用步驟 直接使用該檢查點。

步驟 1：從 GitHub 克隆 llama.cpp

git clone https://github.com/ggerganov/llama.cpp

步驟 2：進入 llama.cpp 文件夾並進行編譯

可以使用 LLAMA_CURL=1 標誌以及其他特定於硬件的標誌（例如，在 Linux 上使用 Nvidia GPU 時使用 LLAMA_CUDA=1）進行編譯。

cd llama.cpp && LLAMA_CURL=1 make

步驟 3：通過主二進制文件運行推理

./llama-cli --hf-repo kcccat/multilingual-e5-large-instruct-Q6_K-GGUF --hf-file multilingual-e5-large-instruct-q6_k.gguf -p "The meaning to life and the universe is"

或者

./llama-server --hf-repo kcccat/multilingual-e5-large-instruct-Q6_K-GGUF --hf-file multilingual-e5-large-instruct-q6_k.gguf -c 2048

📚 詳細文檔

🏷️ 標籤

• mteb
• sentence-transformers
• transformers
• llama-cpp
• gguf-my-repo

🌐 支持語言

• 多語言
• af
• am
• ar
• as
• az
• be
• bg
• bn
• br
• bs
• ca
• cs
• cy
• da
• de
• el
• en
• eo
• es
• et
• eu
• fa
• fi
• fr
• fy
• ga
• gd
• gl
• gu
• ha
• he
• hi
• hr
• hu
• hy
• id
• is
• it
• ja
• jv
• ka
• kk
• km
• kn
• ko
• ku
• ky
• la
• lo
• lt
• lv
• mg
• mk
• ml
• mn
• mr
• ms
• my
• ne
• nl
• 'no'
• om
• or
• pa
• pl
• ps
• pt
• ro
• ru
• sa
• sd
• si
• sk
• sl
• so
• sq
• sr
• su
• sv
• sw
• ta
• te
• th
• tl
• tr
• ug
• uk
• ur
• uz
• vi
• xh
• yi
• zh

📄 許可證

本模型採用 MIT 許可證。

📊 模型信息

📈 評估結果

模型在多個任務和數據集上進行了評估，以下是部分評估結果：

分類任務

• MTEB AmazonCounterfactualClassification (en)：準確率 76.24%，平均精度 39.07%，F1 值 70.05%
• MTEB AmazonPolarityClassification：準確率 96.29%，平均精度 94.84%，F1 值 96.29%
• MTEB AmazonReviewsClassification (en)：準確率 56.72%，F1 值 55.77%

檢索任務

• MTEB ArguAna：MAP@1 31.72%，MAP@10 49.22%，MAP@100 49.88%
• MTEB CQADupstackRetrieval：MAP@1 27.76%，MAP@10 37.30%，MAP@100 38.53%

聚類任務

• MTEB ArxivClusteringP2P：V-measure 46.40%
• MTEB ArxivClusteringS2S：V-measure 40.49%

重排序任務

• MTEB AskUbuntuDupQuestions：MAP 63.89%，MRR 77.61%

語義文本相似度任務

• MTEB BIOSSES：餘弦相似度皮爾遜相關係數 88.15%，餘弦相似度斯皮爾曼相關係數 86.96%

雙語挖掘任務

• MTEB BUCC (de-en)：準確率 99.66%，F1 值 99.61%，精度 99.58%，召回率 99.66%
• MTEB BUCC (fr-en)：準確率 99.26%，F1 值 99.15%，精度 99.09%，召回率 99.26%

更多詳細的評估結果請參考文檔開頭的 YAML 數據部分。