# 轻量级大模型

A.X 4.0 Light 是由 SKT AI Model Lab 开发的轻量级大语言模型，基于 Qwen2.5 构建，针对韩语理解和企业部署优化。

这是一个基于Qwen3-Embedding-4B模型转换的4位量化版本，专为MLX框架优化

Qwen3-0.6B是一个轻量级大语言模型，已转换为ONNX格式以便在网页端使用。

这是一个基于Qwen/Qwen3-0.6B模型转换的4位量化版本，适用于MLX框架的高效推理。

MiniCPM-o 2.6是一个多模态模型，支持视觉和语言任务，专为llama.cpp设计。

基于Google Gemma-2-9b-it模型优化的韩语版本，由Saltware开发，适用于韩语自然语言处理任务。

Gemma是Google推出的轻量级前沿开放模型系列，基于与Gemini相同技术构建，适用于多种文本生成任务。

Gemma是Google推出的轻量级开放大语言模型系列，基于创建Gemini模型的相同技术构建，适用于多种文本生成任务。

Phi-3 4k Instruct 是一个轻量级但功能强大的语言模型，经过4位量化处理以降低资源需求。

Llama 3 8B 指令模型的 GGUF 量化版本，适用于本地推理，支持高效部署

MiniCPM是由面壁智能与清华大学自然语言处理实验室联合开发的端侧大语言模型，非词嵌入参数量仅24亿（2.4B），支持128k上下文窗口。

Gemma是Google推出的轻量级开放模型系列，基于与Gemini相同技术构建，适用于多种文本生成任务。