Voicelab Trurl 2 13b GGUF

🚀 Voicelab/trurl-2-13b - GGUF

このリポジトリには、Voicelab/trurl-2-13b のGGUF形式のモデルファイルが含まれています。

これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミットb5165 以降のllama.cppと互換性があります。

✨ 主な機能

当社のプロジェクト

Awesome MCP Servers	TensorBlock Studio
モデルコンテキストプロトコル（MCP）サーバーの包括的なコレクション。	軽量でオープンかつ拡張可能なマルチLLMインタラクションスタジオ。
👉 成果を見る 👉	👉 成果を見る 👉

📚 ドキュメント

プロンプトテンプレート

プロンプト形式を自動的に判断できません。正しいプロンプト形式については、元のモデルリポジトリを確認してください。

モデルファイル仕様

📦 インストール

コマンドライン

まず、Huggingfaceクライアントをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/Voicelab_trurl-2-13b-GGUF --include "trurl-2-13b-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合（例: *Q4_K*gguf）は、以下のコマンドを試してください。

huggingface-cli download tensorblock/Voicelab_trurl-2-13b-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'