M

Mlabonne Gemma 3 27b It Abliterated GGUF

由bartowski開發
基於Google Gemma 3B模型的量化版本,使用llama.cpp進行優化,支持多種量化級別,適用於文本生成任務。
下載量 7,217
發布時間 : 3/17/2025

模型概述

這是一個經過量化的Gemma 3B模型版本,通過llama.cpp工具進行了優化,提供了從高精度到低精度的多種量化選項,適合不同硬件環境下的推理需求。

模型特點

多種量化選項
提供從BF16到Q2_K的多種量化級別,適應不同硬件和性能需求。
imatrix優化
使用llama.cpp的imatrix選項進行量化,提高了量化模型的性能。
視覺任務支持
提供F32和F16格式的MMPROJ文件,支持視覺相關任務。

模型能力

文本生成
對話系統
指令跟隨

使用案例

對話系統
智能助手
用於構建智能對話助手,回答用戶問題。
內容生成
文本創作
幫助用戶生成創意文本內容。
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase