P

Psyonic Cetacean Ultra Quality 20b GGUF Imatrix

由DavidAU開發
32位浮點精度全面升級的大語言模型,通過FP32精度重構顯著提升文本生成質量與指令跟隨能力
下載量 550
發布時間 : 5/29/2024

模型概述

基於Psyonic-Cetacean-20b的FP32精度升級版本,通過全組件32位浮點重製實現困惑度大幅降低,特別優化創意寫作與角色扮演場景表現

模型特點

FP32全精度重構
所有組件和合並模型均以32位浮點精度重製,最大限度減少精度損失累積
量化性能突破
各量化級別困惑度顯著降低(Q2K降533點,Q4KM降976點),Q6版本性能超越原版全精度模型
湧現新能力
指令跟隨能力顯著提升,文本表現力與細節深度全面提高,原版已知問題全部消失
Imatrix量化增強
支持Imatrix量化技術,多數情況下能使困惑度降幅翻倍

模型能力

創意寫作
故事生成
小說創作
角色扮演對話
高精度文本生成

使用案例

創意內容生成
科幻小說創作
生成具有豐富細節的科幻敘事文本
太空鯨等科幻元素的深度描寫能力提升
角色扮演對話
支持複雜角色設定下的自然對話生成
角色一致性保持與情感表達顯著改善
量化部署
高性能量化推理
在保持優質輸出的同時使用更高壓縮率
Q4KM量化版本接近原版Q6水平
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase