W

Wizardlm 2 7B Abliterated GGUF

由bartowski開發
WizardLM-2-7B-abliterated的Llamacpp imatrix量化版本,提供多種量化選項,適用於不同硬件配置。
下載量 2,561
發布時間 : 5/26/2024

模型概述

這是一個基於WizardLM-2-7B-abliterated模型的量化版本,使用llama.cpp進行量化,適用於文本生成任務。

模型特點

多種量化選項
提供從Q8_0到IQ1_S等多種量化版本,適應不同硬件需求。
高性能推理
使用imatrix量化方法,優化推理性能。
推薦量化版本
Q6_K、Q5_K_M、Q5_K_S、Q4_K_M、Q4_K_S、IQ4_NL和IQ4_XS等版本被推薦使用。

模型能力

文本生成
多輪對話
指令跟隨

使用案例

對話系統
智能助手
用於構建智能對話助手,支持多輪交互。
內容生成
文本創作
生成文章、故事或其他創意文本內容。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase