Gemma 2b It Q4 K M GGUF

🚀 codegood/gemma-2b-it-Q4_K_M-GGUF

このモデルは、google/gemma-2b-it から、llama.cpp を使用して ggml.ai の GGUF-my-repo スペースを介して GGUF 形式に変換されました。モデルの詳細については、元のモデルカード を参照してください。

🚀 クイックスタート

📦 インストール

llama.cpp を brew を通じてインストールします。

brew install ggerganov/ggerganov/llama.cpp

💻 使用例

基本的な使用法

CLI を使用する場合：

llama-cli --hf-repo codegood/gemma-2b-it-Q4_K_M-GGUF --model gemma-2b-it.Q4_K_M.gguf -p "The meaning to life and the universe is"

サーバーを使用する場合：

llama-server --hf-repo codegood/gemma-2b-it-Q4_K_M-GGUF --model gemma-2b-it.Q4_K_M.gguf -c 2048

高度な使用法

Llama.cpp リポジトリに記載されている 使用手順 を直接使用することもできます。

git clone https://github.com/ggerganov/llama.cpp &&             cd llama.cpp &&             make &&             ./main -m gemma-2b-it.Q4_K_M.gguf -n 128

📄 ライセンス

ライセンスは gemma です。

⚠️ 重要提示

Hugging Face で Gemma にアクセスするには、Google の使用許諾契約を確認して同意する必要があります。これを行うには、Hugging Face にログインして以下をクリックしてください。リクエストは即座に処理されます。

💡 使用建议

このモデルは、google/gemma-2b-it から変換されたものです。元のモデルカードを参照することで、より詳細な情報を得ることができます。