Llama 3.1 8B SuperNova EtherealHermes GGUF

🚀 ZeroXClem/Llama-3.1-8B-SuperNova-EtherealHermes - GGUF

このリポジトリには、ZeroXClem/Llama-3.1-8B-SuperNova-EtherealHermes のGGUF形式のモデルファイルが含まれています。 これらのファイルは TensorBlock が提供するマシンを使用して量子化されており、コミット b4882 以降の llama.cpp と互換性があります。

🚀 クイックスタート

このリポジトリのGGUF形式モデルファイルを使用することで、ZeroXClem/Llama-3.1-8B-SuperNova-EtherealHermesモデルを利用できます。

✨ 主な機能

• このリポジトリには、ZeroXClem/Llama-3.1-8B-SuperNova-EtherealHermesのGGUF形式モデルファイルが含まれています。
• ファイルはTensorBlockが提供するマシンを使用して量子化されています。
• llama.cppと互換性があります。

📦 インストール

コマンドライン

まず、Huggingface Clientをインストールします。

pip install -U "huggingface_hub[cli]"

次に、個々のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/Llama-3.1-8B-SuperNova-EtherealHermes-GGUF --include "Llama-3.1-8B-SuperNova-EtherealHermes-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターンを指定して複数のモデルファイルをダウンロードする場合は、以下のコマンドを試してください。

huggingface-cli download tensorblock/Llama-3.1-8B-SuperNova-EtherealHermes-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

📚 ドキュメント

私たちのプロジェクト

Awesome MCP Servers	TensorBlock Studio
A comprehensive collection of Model Context Protocol (MCP) servers.	A lightweight, open, and extensible multi-LLM interaction studio.
👉 See what we built 👉	👉 See what we built 👉

プロンプトテンプレート

<|begin_of_text|><|start_header_id|>system<|end_header_id|>

{system_prompt}<|eot_id|><|start_header_id|>user<|end_header_id|>

{prompt}<|eot_id|><|start_header_id|>assistant<|end_header_id|>

モデルファイル仕様

モデル指標

フィードバックとサポート

フィードバックやサポートについては、TensorBlockの Twitter/X、Telegramグループ、Discordサーバー をご利用ください。

📄 ライセンス

このプロジェクトはApache-2.0ライセンスの下で提供されています。