Qwq Math IO 500M GGUF

🚀 prithivMLmods/QwQ-Math-IO-500M - GGUF

このリポジトリには、prithivMLmods/QwQ-Math-IO-500M のGGUF形式のモデルファイルが含まれています。 これらのファイルは TensorBlock が提供するマシンを使用して量子化されており、コミット b4823 以降の llama.cpp と互換性があります。

✨ 主な機能

当社のプロジェクト

Awesome MCP Servers	TensorBlock Studio
モデルコンテキストプロトコル (MCP) サーバーの包括的なコレクション。	軽量でオープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👉 私たちの成果を見る 👉	👉 私たちの成果を見る 👉

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイル仕様

📦 インストール

コマンドライン

まず、Huggingfaceクライアントをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/QwQ-Math-IO-500M-GGUF --include "QwQ-Math-IO-500M-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は（例: *Q4_K*gguf）、以下のコマンドを試してみてください。

huggingface-cli download tensorblock/QwQ-Math-IO-500M-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📄 ライセンス

このプロジェクトは、Apache-2.0ライセンスの下でライセンスされています。