Qwen Qwen3 14B GGUF

🚀 Qwen/Qwen3-14B - GGUF

このリポジトリには、Qwen/Qwen3-14B のGGUF形式のモデルファイルが含まれています。 これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b5214 以降の llama.cpp と互換性があります。

✨ 主な機能

当社のプロジェクト

Forge
OpenAI互換のマルチプロバイダルーティングレイヤー。
🚀 今すぐ試す 🚀
Awesome MCP Servers	TensorBlock Studio
モデルコンテキストプロトコル (MCP) サーバーの包括的なコレクション。	軽量でオープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👀 私たちが構築したものを見る 👀	👀 私たちが構築したものを見る 👀

📚 詳細ドキュメント

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイル仕様

📦 インストール

ダウンロード手順

コマンドライン

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/Qwen_Qwen3-14B-GGUF --include "Qwen3-14B-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は（例：*Q4_K*gguf）、以下のコマンドを試してみてください。

huggingface-cli download tensorblock/Qwen_Qwen3-14B-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📄 ライセンス

このプロジェクトは Apache-2.0 ライセンスの下で提供されています。