# 多精度量化

UniReason-Qwen3-14B-RL的靜態量化版本，適用於文本生成和數學推理研究場景。

該項目提供了Echelon-AI/Med-Qwen2-7B模型的GGUF量化文件，由Featherless AI提供支持，旨在增強模型性能並降低運行成本。

該項目提供了優化後的GGUF量化文件，可顯著提升模型性能。這些量化文件由Featherless AI提供支持，用戶只需支付少量費用，即可運行任意所需模型。

DeepSeek-R1-Llama-8B-F32-GGUF 是 DeepSeek-R1-Distill-Llama-8B 的量化版本，採用強化學習直接訓練，具備自我驗證、反思和生成擴展思維鏈等能力。

DeepSeek-R1-0528 是一個大型語言模型，經過量化處理以優化在不同硬件上的運行效率。

AceReason-Nemotron-7B 是一個基於 Nemotron 架構的 7B 參數規模的大型語言模型，提供多種量化版本以適應不同硬件需求。

Devstral-Small-2505的量化版本，提供多種精度選擇以適應不同硬件需求

基於a-m-team/AM-Thinking-v1模型的Llamacpp imatrix量化版本，支持多種量化類型，適用於文本生成任務。

Sam-reason-S2.1的靜態量化版本，提供多種量化選項以適應不同硬件需求

MagTie-v1-12B的GGUF量化版本集合，通過mergekit工具合併預訓練語言模型創建，適用於文本生成任務。

這是微軟Phi-4-reasoning模型的量化版本，使用llama.cpp進行優化，適用於推理任務，支持多種量化選項。

基於Google QAT（量化感知訓練）權重量化的Gemma-3-12b模型，提供多種量化版本以適應不同硬件需求。

Llama 2是由Meta開發的7B參數規模的大語言模型，提供多種量化版本以適應不同硬件需求。

14B參數規模的數學推理大語言模型，支持思維鏈推理

Gemma 3 12B 的 GGUF 量化版本，適用於文本生成任務。

Chroma-GGUF 是一個基於 lodestones/Chroma 的量化模型集合，提供多種不同精度的量化版本，適用於不同的硬件和性能需求。

Lacia_sum_small_v1 是一個基於 T5 架構的靜態量化模型，主要用於文本摘要生成任務。支持俄語和英語，適用於自然語言處理領域。

VISION-1是一個基於transformers的內容審核與安全分類模型，專注於文本分類任務。

FLUX.1-Fill-dev 是一個基於 FLUX 技術的文本生成圖像模型，專注於圖像填充任務。

FLUX.1-Redux-dev是基於FLUX技術棧的文本生成圖像模型，支持英語語言，採用非商業許可證。

Stable Diffusion 2.1的GGUF量化版本，支持多種量化精度，適用於文本生成圖像任務。

GIGABATEMAN-7B 是一個基於 Mistral 架構的 7B 參數大型語言模型，專注於文本生成任務。

該項目提供了以GGUF格式存儲的BGE嵌入模型，適用於與llama.cpp配合使用，提供比transformers更好的性能表現。

Xwin-LM 13B V0.1是基於Llama2架構的大語言模型，由Xwin-LM團隊開發。該模型以專業、詳盡且禮貌的方式回答用戶問題，適用於對話場景。