# 高效文本生成

基於DeepSeek-R1-0528的量化模型，專注於文本生成任務，提供更高效的使用方式。

一個基於Gemma架構的土耳其語大語言模型，專注於文本生成任務。

慧慧AI的Qwen3-4B模型的量化版本，旨在讓知識更廣泛地被大眾獲取。

Qwen3-1.7B-4bit是通義千問1.7B模型的4位量化版本，已轉換為MLX框架格式，便於在Apple Silicon設備上高效運行。

Bamba-9B-v2 是基於 Mamba-2 架構構建的僅解碼器語言模型，專注於文本生成任務，性能優於 Llama 3.1 8B。

Tessa-Rust-T1-7B的量化版本，使用llama.cpp工具進行量化處理，支持在不同硬件條件下高效運行。

SimpleStories 是一個為可解釋性研究設計的微型模型家族，基於 SimpleStories 數據集訓練而成，專注於故事生成任務。

GLM-4-9B-0414-abliterated 是一個基於 GLM 架構的 9B 參數規模的大型語言模型，適用於文本生成任務。

基於Transformer架構的微調模型，在問答和文本生成任務上表現出色，提供精準、高效的語言交互體驗。

該模型是基於canopylabs/orpheus-3b-0.1-ft轉換而來的GGUF格式模型，適用於文本生成任務。

一種創新的量化方案，通過混合精度量化實現更小的模型體積和保持高性能。

Gemma 3 27B 指令調優模型的 GGUF 量化版本，適用於文本生成任務。

QwQ-32B是基於Qwen2架構的32B參數大語言模型，經過GPTQ方法4位整型量化處理，適用於高效文本生成任務。

本項目提供了 Steelskull/L3.3-Electra-R1-70b 模型的多種 GGUF 矩陣量化版本，有效提升模型在不同硬件環境下的運行效率和性能表現。

這是一個量化版本的大語言模型，旨在讓知識更易於獲取和使用。

0x Mini是由Ozone AI開發的輕量級語言模型，基於Llama-3.1架構優化，提供高效的文本生成能力

DeepSeek-R1-Distill-Llama-8B 是一個基於 Llama 架構的 8B 參數規模的大型語言模型，經過蒸餾訓練優化，適用於文本生成任務。

基於Qwen架構的2億參數模型，採用MiniPLM知識蒸餾框架從零開始預訓練

Hymba-1.5B-Base 是 NVIDIA 開發的一款基礎文本生成模型，採用混合架構結合 Mamba 和注意力頭，適用於多種自然語言生成任務。

這是一個專為內部用例定製的多語言圖像轉文本模型，支持英語和德語。

Fikri是一個專為土耳其語任務定製的語言模型，基於Llama 3.1架構，具有80億參數。

PowerLM-3B是一個30億參數的小型語言模型，採用Power學習率調度器訓練，在自然語言多選、代碼生成和數學推理等多個基準測試中表現優異。

基於Llama2 7B改進的模型，支持層級跳躍和自推測解碼，提升推理效率

Mistral 7B是Mistral AI推出的一款擁有70億參數的大語言模型，專為高效和高性能而設計，適合需要快速響應的即時應用場景。

Mistral-7B-Instruct-v0.3是基於Mistral-7B-v0.3進行指令微調的大語言模型，採用4位AWQ量化技術優化推理效率

Mistral-7B-Instruct-v0.3的GGUF量化版本，適用於本地推理的文本生成模型

Mistral-7B-v0.3是基於Mistral-7B-v0.2升級的大語言模型，主要改進是擴展了詞彙表至32768個詞元。

Mistral-7B-Instruct-v0.3 是一個基於 Mistral-7B 的指令調優版本，專注於遵循人類指令的文本生成任務。

基於abacusai/Llama-3-Smaug-8B的GGUF格式量化模型，支持2-8比特量化級別，適用於文本生成任務

GIGABATEMAN-7B 是一個基於 Mistral 架構的 7B 參數大型語言模型，專注於文本生成任務。

Mamba-7B 是一個基於 Mamba 架構的 70 億參數模型，在 RefinedWeb 數據集上進行了多輪訓練（1.2 萬億標記）。Mamba 是一種狀態空間模型，不使用自注意力機制，在多種自然語言基準測試中表現出色。

Mamba是一個基於狀態空間模型(SSM)的高效語言模型，具有線性時間複雜度的序列建模能力。

Mamba是一個與transformers兼容的序列建模模型，具有高效的推理能力。

Mamba是基於狀態空間模型(SSM)架構的高效語言模型，具有1.4B參數規模，支持文本生成任務

DareBeagle-7B是通過LazyMergekit合併mlabonne/NeuralBeagle14-7B和mlabonne/NeuralDaredevil-7B得到的7B參數大語言模型，在多個基準測試中表現優異。

DeciLM-7B是一款擁有70.4億參數的純解碼器文本生成模型，基於Apache 2.0許可證發佈，是當前Open LLM排行榜上性能最佳的7B基礎語言模型。