Jungzoona T3Q Qwen2.5 14b V1.0 E3 GGUF

🚀 JungZoona/T3Q-qwen2.5-14b-v1.0-e3 - GGUF

このリポジトリには、JungZoona/T3Q-qwen2.5-14b-v1.0-e3 のGGUF形式のモデルファイルが含まれています。これらのファイルは TensorBlock が提供するマシンを使用して量子化されており、コミット b5165 以降の llama.cpp と互換性があります。

✨ 主な機能

当該プロジェクト

その他プロジェクト

Awesome MCP Servers	TensorBlock Studio
モデルコンテキストプロトコル（MCP）サーバーの包括的なコレクション。	軽量でオープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👉 私たちが構築したものを見る 👉	👉 私たちが構築したものを見る 👉

📚 詳細ドキュメント

プロンプトテンプレート

<|im_start|>system
{system_prompt}<|im_end|>
<|im_start|>user
{prompt}<|im_end|>
<|im_start|>assistant

モデルファイル仕様

📦 インストール

コマンドライン

まず、Huggingfaceクライアントをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/JungZoona_T3Q-qwen2.5-14b-v1.0-e3-GGUF --include "T3Q-qwen2.5-14b-v1.0-e3-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は、以下のように試すことができます。

huggingface-cli download tensorblock/JungZoona_T3Q-qwen2.5-14b-v1.0-e3-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📄 ライセンス

このプロジェクトは Apache-2.0 ライセンスの下で提供されています。