# 轻量级文本生成

该模型是百度ERNIE-4.5-0.3B-PT的GGUF格式转换版本，支持中英文文本生成任务。

Jan-nano-8bit 是基于 Menlo/Jan-nano 模型转换而来的 8 位量化版本，专为 MLX 框架优化，适用于文本生成任务。

慧慧AI量化模型是Magistral-Small-2506-abliterated的量化版本，致力于让知识为每个人所用。

本项目提供了Dobby-Mini-Unhinged-Plus-Llama-3.1-8B的量化版本，旨在让知识为每个人所用。

Penny - 1.7B 是一个量化版本的大语言模型，致力于让知识为每个人所用。

DMind-1-mini 是一个轻量级的文本生成模型，适用于多种自然语言处理任务。

AM-Thinking-v1 是一个基于 GGUF 格式的文本生成模型，适用于多种自然语言处理任务。

基于llama.cpp生成的0.5B参数规模的文本生成模型，支持指令式文本生成任务

这是一个基于Qwen3-0.6B-abliterated模型的量化版本，使用llama.cpp进行量化，适用于文本生成任务。

Qwen3-4B是基于Qwen3-4B-Base的GGUF格式模型，适用于文本生成任务。

本仓库包含Qwen/Qwen3-0.6B的GGUF格式模型文件，由TensorBlock提供的机器进行量化处理，兼容llama.cpp。

Qwen3-0.6B的GGUF量化版本，适用于文本生成任务。

Qwen团队提供的Qwen3-0.6B的Llamacpp imatrix量化版本，使用llama.cpp进行量化，支持在LM Studio或基于llama.cpp的项目中运行。

Qwen2-96M是基于Qwen2架构的微型语言模型，含9600万参数，支持8192个标记的上下文长度，适用于英文文本生成任务。

Tessa-T1-3B是基于Qwen2架构的3B参数大语言模型，提供多种量化版本以适应不同硬件需求。

这是一个基于Llama-3.1-8B-RainbowLight-EtherealMix模型的GGUF格式量化版本，便于进行文本生成相关的应用开发。

Qwen2.5-1.5B-Instruct 模型的 GGUF 格式文件，适用于文本生成任务。

Yi-Coder-1.5B-Chat-GGUF 是 01-ai/Yi-Coder-1.5B-Chat 的 GGUF 格式模型文件，适用于文本生成任务。

Phi-3.5-mini-instruct的GGUF格式模型文件，适用于文本生成任务。

Gemma-2-2b-it-abliterated是一个基于Google Gemma架构的2.2B参数语言模型，经过量化处理，适用于文本生成任务。

Gemma是Google推出的轻量级开放模型系列，基于创建Gemini模型的技术构建，适用于多种文本生成任务。

Gemma是Google推出的轻量级开源大语言模型，基于与Gemini相同技术构建，适用于文本生成任务。

这是一个基于Qwen1.5-MoE架构的随机初始化小型模型，采用float16精度，适用于文本生成任务。

phi-2-super-GGUF 是 abacaj/phi-2-super 模型的 GGUF 量化版本，适用于本地运行和文本生成任务。

Minueza-32M-Base是一个拥有3200万参数的基础模型，完全基于大量英文文本语料训练而成，适用于文本生成任务。

Gemma 2B模型的GGUF量化版本，适用于本地部署和推理

Gemma是Google推出的轻量级开源大语言模型系列，基于创建Gemini模型的技术构建，提供20亿参数的基础版本。

基于Phi2架构的2亿参数中文因果语言模型，支持文本生成任务

TinyLLama-v0 是一个轻量级语言模型，基于 GGUF 格式提供，适用于文本生成任务。

Puma-3B是基于OpenLLaMA 3B V2微调得到的文本生成模型，在ShareGPT Hyperfiltered数据集上训练，适用于多种文本生成任务。

DistilGPT2是GPT-2的轻量级蒸馏版本，拥有8200万参数，保留了GPT-2的核心文本生成能力，同时体积更小、速度更快。