# 低资源量化

这是一个基于Daemontatox/Compumacy-Experimental-32B模型的量化版本，适用于文本生成、心理学和精神病学等领域。

基于Mistral架构的24B参数大语言模型，专为角色扮演和创意写作优化，采用GGUF量化格式

Seed-Coder-8B-Reasoning是基于Transformer架构的代码生成模型，具有强大的推理能力，适用于多种编码任务，在同规模的开源模型中表现出色。

Qwen2-Audio-7B-Instruct的加权/矩阵量化模型，支持英文音频文本转文本任务

基于WhiteRabbitNeo-V3-7B的Llamacpp imatrix量化版本，专注于网络安全和DevOps任务，支持代码生成。

QwenStoryteller是一个基于视觉语言模型的讲故事模型，专注于视觉叙事和跨帧一致性。

基于andrewzh的Absolute_Zero_Reasoner-Coder-14b模型，使用llama.cpp进行imatrix量化的版本，适用于推理和代码生成任务。

Clinician-Note-2.0a 是一个专注于医学领域的文本生成模型，特别设计用于临床记录和摘要任务。

Qwen3是通义千问系列最新一代大语言模型，235B参数混合专家(MoE)模型，经INT4量化后显著降低内存占用

基于burtenshaw/GemmaCoder3-12B的量化版本，专为代码生成任务优化，支持多种量化级别以适应不同硬件需求。

这是对Fanbin/STEVE-R1-7B-SFT模型进行的加权/矩阵量化版本，适用于资源受限环境。

基于webbigdata/gemma-2-2b-jpn-it-translate的量化版本，专注于日语和英语之间的翻译任务

这是对Menlo/Speechless-llama3.2-v0.1模型进行加权/重要性矩阵量化的结果，提供多种量化版本

这是对Minthy/ToriiGate-v0.4-7B模型进行的加权/重要性矩阵量化版本，提供多种量化选项以适应不同需求。

ToriiGate-v0.4-7B的静态量化版本，适用于多模态、视觉、图像文本到文本等任务

Tifa-DeepsexV2-7b-MGRPO-safetensors 是一个基于 transformers 库的多语言（中文和英语）大语言模型，经过增量预训练、监督微调和强化学习优化，适用于角色扮演和思维链任务。

基于Llama3.2架构的3B参数大语言模型，支持英文文本生成任务，采用llama.cpp进行imatrix量化

这是c4ai-command-r7b-12-2024-abliterated模型的量化版本，使用llama.cpp进行量化，支持多种量化类型，适用于不同硬件环境。

NoticIA-7B是一个基于西班牙语的新闻摘要生成模型，专注于处理新闻内容并生成摘要。

Tango-70B-Instruct 是一款大型语言模型，专为提升西班牙语区域的语言表现而设计。

这是Menlo/Ichigo-llama3.1-s-instruct-v0.4模型的GGUF量化版本，适用于资源受限环境下的语音语言处理任务。

基于Menlo/Ichigo-llama3.1-s-instruct-v0.4的静态量化模型，提供多种量化版本，适用于不同硬件需求。

StarCoder2-3B 是一个专注于代码生成的3B参数量的开源模型，由BigCode团队开发。

Meta-Llama-3.1-405B-Instruct 是一个基于 Llama 3.1 架构的 4050 亿参数大型语言模型，专为指令跟随任务优化，支持多种语言。

VNTL LLaMA 3 8B qlora 是一个基于 LLaMA 3 8B 的合并模型，支持日语和英语翻译任务，并新增了聊天模式，适用于日语语法问题解答。

NeuralStar_AlphaWriter_4x7b是一个基于混合专家技术(MoE)构建的7B参数语言模型，专为创意写作任务优化，融合了四个擅长不同写作领域的专家模型。

一个7B参数的合并模型，具备多模态能力，支持视觉功能

适用于llama.cpp的GGUF权重文件，支持对话模板和重要性矩阵量化。

基于Mamba架构的3B参数语言模型，专注于高效文本生成任务

波斯心智是一个跨语言的波斯语-英语大语言模型，由德黑兰大学团队开发，在多项波斯语任务中表现优异。

Astrea-RP-v1-3B是一个3B参数规模的大语言模型，通过任务算术合并了多个模型，专注于文本生成任务。