P

Primeintellect INTELLECT 2 GGUF

由bartowski開發
INTELLECT-2的量化版本,使用llama.cpp進行優化,支持多種量化類型以適應不同硬件需求。
下載量 6,268
發布時間 : 5/12/2025

模型概述

這是一個基於PrimeIntellect/INTELLECT-2模型的量化版本,通過llama.cpp工具進行優化,旨在提供高效的文本生成能力。

模型特點

多種量化選項
提供從Q2_K到Q8_0等多種量化類型,適應不同硬件和性能需求。
高質量量化
部分量化版本(如Q6_K_L、Q5_K_L等)使用Q8_0量化嵌入和輸出權重,保持高質量。
硬件優化
支持ARM和AVX硬件,通過在線重打包功能優化性能。

模型能力

文本生成
對話系統

使用案例

對話系統
智能助手
可用於構建智能對話助手,提供自然語言交互。
內容生成
文本創作
支持生成各種類型的文本內容,如故事、文章等。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase