Gemma 3 4b It GGUF

🚀 google/gemma-3-4b-it - GGUF

このリポジトリには、google/gemma-3-4b-it の GGUF 形式のモデルファイルが含まれています。これらのファイルは TensorBlock が提供するマシンで量子化処理されており、コミット b4882 以降の llama.cpp と互換性があります。

🚀 クイックスタート

Gemmaへのアクセス

Hugging Face で Gemma にアクセスするには、Google の使用許諾を確認して同意する必要があります。Hugging Face にログインし、以下のボタンをクリックすると、リクエストがすぐに処理されます。 Acknowledge license

モデルファイルのダウンロード

コマンドラインによる方法

まず、Huggingface クライアントをインストールします。

pip install -U "huggingface_hub[cli]"

次に、単一のモデルファイルをローカルディレクトリにダウンロードします。

huggingface-cli download tensorblock/gemma-3-4b-it-GGUF --include "gemma-3-4b-it-Q2_K.gguf" --local-dir MY_LOCAL_DIR

パターン（例：*Q4_K*gguf）で複数のモデルファイルをダウンロードしたい場合は、以下を試してください。

huggingface-cli download tensorblock/gemma-3-4b-it-GGUF --local-dir MY_LOCAL_DIR --local-dir-use-symlinks False --include='*Q4_K*gguf'

✨ 主な機能

モデルファイルの仕様

📚 ドキュメント

プロンプトテンプレート

<bos><start_of_turn>user
{system_prompt}

{prompt}<end_of_turn>
<start_of_turn>model

その他のプロジェクト

プロジェクト	説明	画像	リンク
Awesome MCP Servers	包括的なモデルコンテキストプロトコル（MCP）サーバーのコレクションです。		詳細を表示
TensorBlock Studio	軽量で、オープンかつ拡張可能な複数の大規模言語モデルとのインタラクションスタジオです。		詳細を表示

📄 ライセンス

このプロジェクトは gemma ライセンスを使用しています。