# 低內存佔用

Qwen3-30B-A3B的量化版本，採用先進的非線性SotA量化技術，在給定內存佔用下提供同類最佳的質量。

Qwen3-8B的量化版本，使用llama.cpp的imatrix選項進行量化，適用於文本生成任務。

基於GLM-4架構的9B參數聊天模型，支持中英文對話，經過量化處理適用於不同硬件環境

Falcon-E-1B-Base 是由 TII 開發的一個高效 1.58 位語言模型，採用純 Transformer 架構，專為邊緣設備優化設計。

ARPG是一種創新的自迴歸圖像生成框架，能夠通過類GPT因果架構實現BERT式掩碼建模。

FLUX.1-Fill-dev的INT4量化版本，能夠根據文本描述填充現有圖像中的區域，提供約4倍內存節省和2-3倍速度提升。

EXAONE-3.5-32B-Instruct是一個32B參數的大型語言模型，支持指令跟隨和對話任務。

基於SicariusSicariiStuff/Impish_Mind_8B模型的量化版本，使用llama.cpp工具進行多種量化處理，適用於文本生成任務。

ESM++是對ESMC的忠實實現，支持批處理且兼容標準Huggingface接口，無需依賴ESM Python包。小型版本對應ESMC的3億參數版本。

Flux.1 Lite是從FLUX.1-dev模型蒸餾出的80億參數Transformer模型，專為文本生成圖像任務優化，在保持精度的同時減少內存佔用並提升速度。

該模型是Salesforce/blip-image-captioning-base的量化版本，通過降低浮點精度至bfloat16，內存佔用減少50%，適用於圖像到文本生成任務。

RecurrentGemma是基於Google新型循環架構構建的開源語言模型，提供更高效的長序列處理能力

Whisper-Large-V3-法語蒸餾版是通過將解碼器層數從32層縮減至16層，並基於大規模數據集進行蒸餾訓練而得到的法語語音識別模型。該模型在保持性能的同時顯著降低了內存佔用和推理時間。