Glm Edge V 2b Gguf

🚀 Glm-Edge-V-2B-GGUF

Glm-Edge-V-2B-GGUF 是一款支持圖像文本到文本轉換的模型，適用於多種應用場景，為用戶提供高效的文本生成服務。

🚀 快速開始

若您想閱讀中文內容，可點擊這裡。

📦 安裝指南

該模型的適配代碼正在積極集成到官方的 llama.cpp 中。您可以使用以下適配版本進行測試：

git clone https://github.com/piDack/llama.cpp -b support_glm_edge_model
cmake -B build -DGGML_CUDA=ON # 或者啟用其他加速硬件
cmake --build build -- -j 

💻 使用示例

基礎用法

安裝完成後，您可以使用以下命令啟動 GLM-Edge Chat 模型：

llama-cli -m <path>/model.gguf -p "<|user|>\nhi<|assistant|>\n" -ngl 999

在命令行界面中，您可以輸入請求與模型進行交互，模型將提供相應的響應。

📄 許可證

本模型權重的使用需遵循 LICENSE 中規定的條款。