Y

Yarngpt GGUF

由tensorblock開發
YarnGPT的GGUF格式量化模型文件,由TensorBlock提供量化服務,兼容llama.cpp
下載量 59
發布時間 : 3/6/2025

模型概述

本倉庫包含saheedniyi/YarnGPT的GGUF格式模型文件,適用於文本生成任務,提供多種量化版本以滿足不同需求

模型特點

多種量化版本
提供從Q2_K到Q8_0共12種量化版本,滿足不同場景下對模型大小和質量的平衡需求
兼容llama.cpp
模型文件與llama.cpp兼容,便於在各種設備上部署和運行
輕量級部署
量化後的模型文件大小顯著減小,最低僅0.223GB,適合資源受限環境

模型能力

文本生成
長文本處理

使用案例

文本生成
內容創作
用於生成各種類型的文本內容
對話系統
構建聊天機器人或虛擬助手
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase