# 輕量級文本生成

該模型是百度ERNIE-4.5-0.3B-PT的GGUF格式轉換版本，支持中英文文本生成任務。

Jan-nano-8bit 是基於 Menlo/Jan-nano 模型轉換而來的 8 位量化版本，專為 MLX 框架優化，適用於文本生成任務。

慧慧AI量化模型是Magistral-Small-2506-abliterated的量化版本，致力於讓知識為每個人所用。

本項目提供了Dobby-Mini-Unhinged-Plus-Llama-3.1-8B的量化版本，旨在讓知識為每個人所用。

Penny - 1.7B 是一個量化版本的大語言模型，致力於讓知識為每個人所用。

DMind-1-mini 是一個輕量級的文本生成模型，適用於多種自然語言處理任務。

AM-Thinking-v1 是一個基於 GGUF 格式的文本生成模型，適用於多種自然語言處理任務。

基於llama.cpp生成的0.5B參數規模的文本生成模型，支持指令式文本生成任務

這是一個基於Qwen3-0.6B-abliterated模型的量化版本，使用llama.cpp進行量化，適用於文本生成任務。

Qwen3-4B是基於Qwen3-4B-Base的GGUF格式模型，適用於文本生成任務。

本倉庫包含Qwen/Qwen3-0.6B的GGUF格式模型文件，由TensorBlock提供的機器進行量化處理，兼容llama.cpp。

Qwen3-0.6B的GGUF量化版本，適用於文本生成任務。

Qwen團隊提供的Qwen3-0.6B的Llamacpp imatrix量化版本，使用llama.cpp進行量化，支持在LM Studio或基於llama.cpp的項目中運行。

Qwen2-96M是基於Qwen2架構的微型語言模型，含9600萬參數，支持8192個標記的上下文長度，適用於英文文本生成任務。

Tessa-T1-3B是基於Qwen2架構的3B參數大語言模型，提供多種量化版本以適應不同硬件需求。

這是一個基於Llama-3.1-8B-RainbowLight-EtherealMix模型的GGUF格式量化版本，便於進行文本生成相關的應用開發。

Qwen2.5-1.5B-Instruct 模型的 GGUF 格式文件，適用於文本生成任務。

Yi-Coder-1.5B-Chat-GGUF 是 01-ai/Yi-Coder-1.5B-Chat 的 GGUF 格式模型文件，適用於文本生成任務。

Phi-3.5-mini-instruct的GGUF格式模型文件，適用於文本生成任務。

Gemma-2-2b-it-abliterated是一個基於Google Gemma架構的2.2B參數語言模型，經過量化處理，適用於文本生成任務。

Gemma是Google推出的輕量級開放模型系列，基於創建Gemini模型的技術構建，適用於多種文本生成任務。

Gemma是Google推出的輕量級開源大語言模型，基於與Gemini相同技術構建，適用於文本生成任務。

這是一個基於Qwen1.5-MoE架構的隨機初始化小型模型，採用float16精度，適用於文本生成任務。

phi-2-super-GGUF 是 abacaj/phi-2-super 模型的 GGUF 量化版本，適用於本地運行和文本生成任務。

Minueza-32M-Base是一個擁有3200萬參數的基礎模型，完全基於大量英文文本語料訓練而成，適用於文本生成任務。

Gemma 2B模型的GGUF量化版本，適用於本地部署和推理

Gemma是Google推出的輕量級開源大語言模型系列，基於創建Gemini模型的技術構建，提供20億參數的基礎版本。

基於Phi2架構的2億參數中文因果語言模型，支持文本生成任務

TinyLLama-v0 是一個輕量級語言模型，基於 GGUF 格式提供，適用於文本生成任務。

Puma-3B是基於OpenLLaMA 3B V2微調得到的文本生成模型，在ShareGPT Hyperfiltered數據集上訓練，適用於多種文本生成任務。

DistilGPT2是GPT-2的輕量級蒸餾版本，擁有8200萬參數，保留了GPT-2的核心文本生成能力，同時體積更小、速度更快。