Openbuddy Deepseek 10b V17.1 4k GGUF

🚀 OpenBuddy/openbuddy-deepseek-10b-v17.1-4k - GGUF

このリポジトリには、OpenBuddy/openbuddy-deepseek-10b-v17.1-4k のGGUF形式のモデルファイルが含まれています。 これらのファイルは、TensorBlock が提供するマシンを使用して量子化されており、コミット b4242 以降の llama.cpp と互換性があります。

✨ 主な機能

• このリポジトリには、特定のモデルのGGUF形式のファイルが含まれています。
• 量子化により、モデルのサイズを最適化し、llama.cppとの互換性を確保しています。

📦 インストール

コマンドライン

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/openbuddy-deepseek-10b-v17.1-4k-GGUF --include "openbuddy-deepseek-10b-v17.1-4k-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は、次のように試すことができます。

huggingface-cli download tensorblock/openbuddy-deepseek-10b-v17.1-4k-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📚 ドキュメント

私たちのプロジェクト

プロジェクト	詳細
Awesome MCP Servers	Model Context Protocol (MCP) サーバーの包括的なコレクションです。 👉 私たちが構築したものを見る 👈
TensorBlock Studio	軽量で、オープンかつ拡張可能なマルチLLMインタラクションスタジオです。 👉 私たちが構築したものを見る 👈

プロンプトテンプレート

モデルファイルの仕様

📄 ライセンス

このモデルは DeepSeek ライセンスの下で提供されています。