# 量化高效

騰訊混元A13B指令模型的量化版本，通過技術手段在保證性能的同時提升運行效率。

基於預訓練模型drwlf/DrMedra4B的量化版本，適用於醫療AI相關任務

基於Qwen的視覺敘事模型量化版本，專注於跨幀一致的故事生成和圖像轉文本任務

Qwen3是通義千問系列大語言模型的最新版本，提供了一系列密集型和混合專家（MoE）模型。基於大規模訓練，Qwen3在推理能力、指令遵循、智能體功能和多語言支持方面實現了突破性進展。

DeepHermes-ToolCalling-Specialist-Atropos 是一個專注於工具調用的文本生成模型，旨在通過自然語言處理技術實現高效的任務執行。

Gemma 3是Google推出的輕量級、最先進的多模態開源模型，能夠處理文本和圖像輸入並生成文本輸出。

EraX-Translator-V1.0的量化版本，支持多語言翻譯，特別適用於低資源環境和古漢語、佛教典籍翻譯。

EraX-Translator-V1.0 是一個多語言翻譯模型，支持包括越南語、英語、俄語、法語、中文等多種語言的翻譯任務，特別適用於低資源語言和古代漢語及佛教典籍的翻譯。

Gemma 3是Google推出的輕量級開源多模態模型，基於與Gemini相同技術構建，支持文本和圖像輸入並生成文本輸出。

FinanceConnect-13B 是一個專注於金融領域的13B參數大語言模型，支持摘要生成、分類、翻譯等自然語言處理任務。

這是一個基於Qwen2.5-7B架構的網絡安全領域大語言模型，轉換為GGUF格式以便在llama.cpp中使用。

多語言e5系列是多語言嵌入模型的最佳選擇之一，支持多種語言和任務。

Mistral-7B-Instruct-v0.3 的量化版本，提供多種量化選項以適應不同硬件需求

這是FallenMerick/Smart-Lemon-Cookie-7B的靜態量化版本，提供多種量化選項，適用於文本生成和角色扮演任務。

LongAlpaca-13B-GGUF是基於Yukang/LongAlpaca-13B模型的GGUF格式量化版本，支持2-8比特的量化選項，適用於本地文本生成任務。