# GGUF輕量化

MiniCPM4-8B-Q8_0-GGUF 是通過 llama.cpp 將 openbmb/MiniCPM4-8B 轉換為 GGUF 格式的模型，適用於本地推理。

基於BERT的情感分析模型的靜態量化版本，支持英文文本的情感分類

MedGemma-4B-it-Q8_0-GGUF 是基於 google/medgemma-4b-it 轉換而來的 GGUF 格式模型，專為醫療領域的圖像文本到文本任務設計。

這是一個基於Llama-3.1架構的8B參數模型，專門用於對Hacker News評論進行摘要生成。

該模型是基於Qwen2-VL-7B-Captioner-Relaxed轉換的GGUF格式版本，專為圖像轉文本任務優化，支持通過llama.cpp和Koboldcpp等工具運行。

這是一個基於Llama-3.1架構的8B參數模型，專門針對烏茲別克語和英語進行了優化，支持文本生成、摘要、翻譯和問答等任務。

這是一個基於Falconsai/text_summarization模型轉換而來的GGUF格式文本摘要模型，適用於使用llama.cpp進行推理。

一個基於GGUF格式的動漫風格圖像生成模型，支持通過文本描述生成高質量動漫圖像。

這是 fal/AuraFlow-v0.3 的直接 GGUF 格式轉換版本，主要用於文本生成圖像任務。