# 高精度量化

Gama-12B是一個多語言支持的大語言模型，提供多種量化版本以適應不同性能和精度需求。

英偉達推出的高性能7B參數語言模型，專注於數學和代碼推理任務，支持128k上下文長度。

Delta-Vector的Austral-24B-Winton模型的量化版本，使用llama.cpp工具進行量化處理，適用於不同硬件配置的高效運行。

基於cognitivecomputations/Qwen3-72B-Embiggened模型的量化版本，使用llama.cpp進行量化處理，可在多種環境下高效運行。

這是OpenBuddy-R1-0528-Distill-Qwen3-32B-Preview0-QAT的量化版本，藉助量化技術可以在不同硬件條件下更高效地運行模型。

基於infly/inf-o1-pi0模型的量化版本，支持多語言文本生成任務，採用llama.cpp工具進行imatrix量化優化。

基於allura-org/Q3-30B-A3B-Designant的Llamacpp imatrix量化版本，適用於多種量化需求，支持角色扮演和對話式任務。

一個基於llama.cpp量化的12B參數多語言大語言模型，支持角色扮演、故事創作及多領域專業任務

一個多語言、多用途的大型語言模型，支持多種專業領域和通用任務，適用於角色扮演、故事創作、編程等多種場景。

Q3-30b-A3b-Pentiment 是一個基於 LLaMA 架構的大型語言模型，經過量化處理，適用於多種文本生成任務。

Qwen3是通義千問系列最新一代大語言模型，提供稠密模型和混合專家（MoE）模型的完整套件。基於大規模訓練，Qwen3在推理能力、指令遵循、智能體功能和多語言支持方面實現了突破性進展。

Qwen3是通義千問系列大語言模型的最新版本，提供了一系列密集型和混合專家（MoE）模型。基於大規模訓練，Qwen3在推理、指令遵循、智能體能力和多語言支持方面實現了突破性進展。

INTELLECT-2的量化版本，使用llama.cpp進行優化，支持多種量化類型以適應不同硬件需求。

這是一個基於Gryphe/Pantheon-Proto-RP-1.8-30B-A3B模型的量化版本，使用llama.cpp進行量化，適用於角色扮演和文本生成任務。

Dolphin-Mistral-24B-Venice-Edition的Llamacpp imatrix量化版本，支持多種量化類型，適用於文本生成任務。

Qwen2.5-VL-72B-Instruct的多模態大語言模型量化版本，支持圖像文本到文本任務，適用於多種量化級別，從高精度到低內存需求。

Qwen2.5-VL-7B-Instruct的量化版本，使用llama.cpp進行量化，支持多模態任務，適用於圖文轉文本等應用場景。

這是NVIDIA OpenCodeReasoning-Nemotron-32B-IOI模型的量化版本，使用llama.cpp進行量化處理，適用於代碼推理任務。

這是nomic-ai/nomic-embed-code模型的量化版本，使用llama.cpp進行imatrix量化，適用於代碼嵌入和特徵提取任務。

Qwen3-14B-abliterated是基於Qwen3-14B模型的量化版本，使用llama.cpp進行優化，提供多種量化選項以適應不同性能需求。

這是Qwen3-8B模型的量化版本，使用llama.cpp進行imatrix量化，適用於聊天場景。

Remnant-GLM4-32B 是一個基於 GLM4 架構的 32B 參數大語言模型，支持角色扮演和對話式交互，特別適合蠑螈相關的應用場景。

Nomic代碼嵌入模型是一款頂尖的代碼檢索工具，支持多種編程語言，擅長代碼檢索任務。

這是Qwen3-14B-abliterated模型的量化版本，使用llama.cpp的imatrix選項進行量化，適用於文本生成任務。

基於Qwen/Qwen3-32B的量化版本，使用llama.cpp進行量化，支持多種量化類型，適用於不同硬件需求。

基於Qwen/Qwen3-30B-A3B的量化版本，使用llama.cpp進行多種精度量化，適用於文本生成任務。

這是NVIDIA開源的14B參數數學大語言模型，經過llama.cpp量化處理，可在不同硬件條件下高效運行。

Mistral-Small-24B-Instruct-2501 是一個24B參數規模的指令微調大語言模型，支持多語言文本生成任務。

基於PocketDoc/Dans-SakuraKaze-V1.0.0-12b的Llamacpp imatrix量化版本，支持多種量化類型，適用於文本生成任務。

基於Llama 3.3架構的70B參數大語言模型，支持多語言文本生成任務，經過量化優化適用於不同硬件環境

基於GLM-4架構的9B參數聊天模型，支持中英文對話，經過量化處理適用於不同硬件環境

Zero-Mistral-24B 是一個基於 Mistral 架構的大型語言模型，支持俄語和英語，適用於對話和文本生成任務。

基於Google Gemma 3 270億參數指令調優模型的量化版本，採用量化感知訓練(QAT)權重生成，支持多種量化級別以適應不同硬件需求。

這是NVIDIA Llama-3_1-Nemotron-Ultra-253B-v1模型的量化版本，使用llama.cpp進行量化，支持多種量化類型，適用於不同硬件環境。

Llama-4-Scout-17B-16E-Instruct 是一個多語言指令微調模型，支持多種語言，可通過 LlamaEdge 運行。

該模型是基於Gemma-3-27b-tools轉換的GGUF格式版本，適用於本地推理任務。

Qwen2.5-VL-32B-Instruct是一個32B參數規模的多模態視覺語言模型，支持圖像理解和文本生成任務。

基於VIDraft/Gemma-3-R1984-27B轉換的GGUF格式模型，支持多語言文本生成

這是一個基於mlabonne/gemma-3-4b-it-abliterated模型的量化版本，使用llama.cpp進行imatrix量化，適用於圖像文本到文本任務。

基於mlabonne/gemma-3-12b-it-abliterated模型的量化版本，使用llama.cpp進行imatrix量化，適用於文本生成任務。