Nomic Ai Nomic Embed Code GGUF

quantized_by: bartowski pipeline_tag: text-generation license: apache-2.0 base_model_relation: quantized base_model: nomic-ai/nomic-embed-code tags:

• sentence-transformers
• sentence-similarity
• feature-extraction datasets:
• nomic-ai/cornstack-python-v1
• nomic-ai/cornstack-javascript-v1
• nomic-ai/cornstack-java-v1
• nomic-ai/cornstack-go-v1
• nomic-ai/cornstack-php-v1
• nomic-ai/cornstack-ruby-v1

nomic-aiによるnomic-embed-codeのLlamacpp imatrix量子化

量子化にはllama.cppのリリースb5284を使用しています。

オリジナルモデル: https://huggingface.co/nomic-ai/nomic-embed-code

すべての量子化は、こちらのデータセットを使用してimatrixオプションで作成されました。

LM Studioで実行可能

llama.cppまたは他のllama.cppベースのプロジェクトで直接実行可能

プロンプト形式

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

以下のファイルをダウンロード（ブランチ全体ではなく）:

埋め込み/出力ウェイト

これらの量子化の一部（Q3_K_XL、Q4_K_Lなど）は、埋め込みと出力ウェイトが通常のデフォルトではなくQ8_0に量子化された標準的な量子化方法です。

huggingface-cliを使用したダウンロード

pip install -U "huggingface_hub[cli]"

huggingface-cli download bartowski/nomic-ai_nomic-embed-code-GGUF --include "nomic-ai_nomic-embed-code-Q4_K_M.gguf" --local-dir ./

huggingface-cli download bartowski/nomic-ai_nomic-embed-code-GGUF --include "nomic-ai_nomic-embed-code-Q8_0/*" --local-dir ./

ARM/AVX情報

以前は、Q4_0_4_4/4_8/8_8をダウンロードし、これらのウェイトはメモリ内でインターリーブされ、ARMおよびAVXマシン上のパフォーマンスを向上させるために一度により多くのデータをロードしていました。

しかし、現在はウェイトの「オンライン再パッキング」と呼ばれるものがあります。詳細はこのPRにあります。Q4_0を使用し、ハードウェアがウェイトの再パッキングの恩恵を受ける場合、自動的にオンザフライで行われます。

llama.cppビルドb4282以降、Q4_0_X_Xファイルを実行できず、代わりにQ4_0を使用する必要があります。

さらに、このPRのおかげで、IQ4_NLを使用すると、ARM用にウェイトを再パッキングします（現時点では4_4のみ）。ロード時間は遅くなる可能性がありますが、全体的な速度向上につながります。

どのファイルを選ぶべきか？

クレジット

imatrixキャリブレーションデータセットの作成に協力してくれたkalomazeとDampfに感謝します。

埋め込み/出力の実験にインスピレーションを与えてくれたZeroWwに感謝します。

私の仕事をサポートしてくれたLM Studioに感謝します。

私の仕事をサポートしたいですか？私のko-fiページを訪れてください: https://ko-fi.com/bartowski