# GGUF格式

這是chandar-lab/NeoBERT模型的靜態量化版本，旨在減少模型存儲空間和計算資源需求。

這是一個基於Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged模型的靜態量化版本，主要用於圖像到文本的轉換任務。

Qwen2-Audio-7B-Instruct模型的靜態量化版本，支持英文音頻文本轉文本任務

Qwen2.5-Omni-7B-GGUF 是基於 Qwen2.5-Omni-7B 模型的 GGUF 格式版本，支持多模態輸入，包括文本、音頻和圖像。

Vintern-1B-v3_5是一個10億參數的視覺語言模型，支持圖像文本生成任務。

這是一個基於Wan-AI/Wan2.1-T2V-14B模型的GGUF格式轉換版本，主要用於文本生成視頻任務。

INTELLECT-2-GGUF 是 PrimeIntellect/INTELLECT-2 的 GGUF 格式量化版本，適用於文本生成任務。

Clinician-Note-2.0a 是一個專注於醫學領域的文本生成模型，特別設計用於臨床記錄和摘要任務。

Qwen3-30B-A3B的GGUF量化版本，支持多種比特量化，適用於文本生成任務。

SkyReels-V2-I2V-14B-540P 是一個基於 GGUF 格式轉換的圖像轉視頻模型，支持從靜態圖像生成動態視頻內容。

這是一個土耳其語文本轉語音(TTS)模型，基於Orpheus架構，已轉換為GGUF格式以便在llama.cpp中使用。

Kokoro 是一個文本轉語音(TTS)模型，提供兩種音素化支持的GGUF編碼版本。

這是一個基於T5架構的新聞摘要生成模型的靜態量化版本，支持英語文本摘要任務。

這是一個基於mrfakename/mistral-small-3.1-24b-instruct-2503-hf模型的GGUF格式量化版本，適用於文本生成任務。

這是 mshojaei77/gemma-3-4b-persian-v0 模型的靜態量化版本，專門針對波斯語文本生成任務進行了優化。

Gemma 3 12B 的 GGUF 量化版本，適用於文本生成任務。

Gemma 3B 模型的 GGUF 量化版本，適用於本地文本生成任務

ToriiGate-v0.4-7B的靜態量化版本，適用於多模態、視覺、圖像文本到文本等任務

基於kriton/greek-text-summarization的靜態量化版本，專注於希臘語文本摘要任務

VISION-1是一個基於transformers的內容審核與安全分類模型，專注於文本分類任務。

Parler TTS Mini v1的GGUF格式模型文件，用於文本轉語音任務，支持英文語言。

該模型是從BAAI/bge-reranker-base轉換而來的GGUF格式模型，主要用於文本重排序任務。

Glm-Edge-V-5B-GGUF是一個支持中英文的多語言圖文生成文本模型，基於GLM架構開發。

Qwen2.5-1.5B-Instruct 模型的 GGUF 格式文件，適用於文本生成任務。

本模型是google-t5/t5-large的GGUF格式轉換版本，支持摘要生成、翻譯等任務，適用於英語、法語、羅馬尼亞語、德語等多種語言。

ChromaFur Alpha 是一個文本生成圖像的模型，已轉換為GGUF格式，適用於低端GPU或偏好快速加載的用戶。

Yi-Coder-1.5B-Chat-GGUF 是 01-ai/Yi-Coder-1.5B-Chat 的 GGUF 格式模型文件，適用於文本生成任務。

Flux.1-dev的實驗性GGUF格式轉換版本，包含多種混合精度量化方案

Phi-3.5-mini-instruct的GGUF格式模型文件，適用於文本生成任務。

MADLAD-400 3B多語言翻譯模型，支持超過400種語言的翻譯任務，基於GGUF格式優化。

這是一個基於PubMedQA數據集微調的Llama3模型，專注於醫學領域的問答任務。

這是對 openchat/openchat-3.6-8b-20240522 模型進行 Llama.cpp imatrix 量化處理後的版本，提供了不同量化類型的文件，方便用戶根據需求下載和使用。

基於abacusai/Llama-3-Smaug-8B的GGUF格式量化模型，支持2-8比特量化級別，適用於文本生成任務

這是一個波蘭語的7B參數指令微調模型，基於SpeakLeash的Bielik-7B-v0.1模型開發，採用GGUF格式量化。

Gemma 2B模型的GGUF量化版本，適用於本地部署和推理

這是defog/sqlcoder-7b-2模型的GGUF格式量化版本，主要用於SQL代碼生成任務。