# 高效文本生成

基于DeepSeek-R1-0528的量化模型，专注于文本生成任务，提供更高效的使用方式。

一个基于Gemma架构的土耳其语大语言模型，专注于文本生成任务。

基于Google Gemma-3-4b-it模型转换的4位DWQ量化MLX格式版本，提供高效的文本生成能力

慧慧AI的Qwen3-4B模型的量化版本，旨在让知识更广泛地被大众获取。

Qwen3-1.7B-4bit是通义千问1.7B模型的4位量化版本，已转换为MLX框架格式，便于在Apple Silicon设备上高效运行。

Bamba-9B-v2 是基于 Mamba-2 架构构建的仅解码器语言模型，专注于文本生成任务，性能优于 Llama 3.1 8B。

Tessa-Rust-T1-7B的量化版本，使用llama.cpp工具进行量化处理，支持在不同硬件条件下高效运行。

SimpleStories 是一个为可解释性研究设计的微型模型家族，基于 SimpleStories 数据集训练而成，专注于故事生成任务。

GLM-4-9B-0414-abliterated 是一个基于 GLM 架构的 9B 参数规模的大型语言模型，适用于文本生成任务。

基于Transformer架构的微调模型，在问答和文本生成任务上表现出色，提供精准、高效的语言交互体验。

该模型是基于canopylabs/orpheus-3b-0.1-ft转换而来的GGUF格式模型，适用于文本生成任务。

一种创新的量化方案，通过混合精度量化实现更小的模型体积和保持高性能。

Gemma 3 27B 指令调优模型的 GGUF 量化版本，适用于文本生成任务。

QwQ-32B是基于Qwen2架构的32B参数大语言模型，经过GPTQ方法4位整型量化处理，适用于高效文本生成任务。

本项目提供了 Steelskull/L3.3-Electra-R1-70b 模型的多种 GGUF 矩阵量化版本，有效提升模型在不同硬件环境下的运行效率和性能表现。

这是一个量化版本的大语言模型，旨在让知识更易于获取和使用。

0x Mini是由Ozone AI开发的轻量级语言模型，基于Llama-3.1架构优化，提供高效的文本生成能力

DeepSeek-R1-Distill-Llama-8B 是一个基于 Llama 架构的 8B 参数规模的大型语言模型，经过蒸馏训练优化，适用于文本生成任务。

基于Qwen架构的2亿参数模型，采用MiniPLM知识蒸馏框架从零开始预训练

Hymba-1.5B-Base 是 NVIDIA 开发的一款基础文本生成模型，采用混合架构结合 Mamba 和注意力头，适用于多种自然语言生成任务。

这是一个专为内部用例定制的多语言图像转文本模型，支持英语和德语。

Fikri是一个专为土耳其语任务定制的语言模型，基于Llama 3.1架构，具有80亿参数。

PowerLM-3B是一个30亿参数的小型语言模型，采用Power学习率调度器训练，在自然语言多选、代码生成和数学推理等多个基准测试中表现优异。

基于Llama2 7B改进的模型，支持层级跳跃和自推测解码，提升推理效率

Mistral 7B是Mistral AI推出的一款拥有70亿参数的大语言模型，专为高效和高性能而设计，适合需要快速响应的实时应用场景。

Mistral-7B-Instruct-v0.3是基于Mistral-7B-v0.3进行指令微调的大语言模型，采用4位AWQ量化技术优化推理效率

Mistral-7B-Instruct-v0.3的GGUF量化版本，适用于本地推理的文本生成模型

Mistral-7B-v0.3是基于Mistral-7B-v0.2升级的大语言模型，主要改进是扩展了词汇表至32768个词元。

Mistral-7B-Instruct-v0.3 是一个基于 Mistral-7B 的指令调优版本，专注于遵循人类指令的文本生成任务。

基于abacusai/Llama-3-Smaug-8B的GGUF格式量化模型，支持2-8比特量化级别，适用于文本生成任务

GIGABATEMAN-7B 是一个基于 Mistral 架构的 7B 参数大型语言模型，专注于文本生成任务。

Mamba-7B 是一个基于 Mamba 架构的 70 亿参数模型，在 RefinedWeb 数据集上进行了多轮训练（1.2 万亿标记）。Mamba 是一种状态空间模型，不使用自注意力机制，在多种自然语言基准测试中表现出色。

Mamba是一个基于状态空间模型(SSM)的高效语言模型，具有线性时间复杂度的序列建模能力。

Mamba是一个与transformers兼容的序列建模模型，具有高效的推理能力。

Mamba是基于状态空间模型(SSM)架构的高效语言模型，具有1.4B参数规模，支持文本生成任务

DareBeagle-7B是通过LazyMergekit合并mlabonne/NeuralBeagle14-7B和mlabonne/NeuralDaredevil-7B得到的7B参数大语言模型，在多个基准测试中表现优异。

DeciLM-7B是一款拥有70.4亿参数的纯解码器文本生成模型，基于Apache 2.0许可证发布，是当前Open LLM排行榜上性能最佳的7B基础语言模型。