# 輕量級大模型

A.X 4.0 Light 是由 SKT AI Model Lab 開發的輕量級大語言模型，基於 Qwen2.5 構建，針對韓語理解和企業部署優化。

這是一個基於Qwen3-Embedding-4B模型轉換的4位量化版本，專為MLX框架優化

Qwen3-0.6B是一個輕量級大語言模型，已轉換為ONNX格式以便在網頁端使用。

這是一個基於Qwen/Qwen3-0.6B模型轉換的4位量化版本，適用於MLX框架的高效推理。

MiniCPM-o 2.6是一個多模態模型，支持視覺和語言任務，專為llama.cpp設計。

基於Google Gemma-2-9b-it模型優化的韓語版本，由Saltware開發，適用於韓語自然語言處理任務。

Gemma是Google推出的輕量級前沿開放模型系列，基於與Gemini相同技術構建，適用於多種文本生成任務。

Gemma是Google推出的輕量級開放大語言模型系列，基於創建Gemini模型的相同技術構建，適用於多種文本生成任務。

Phi-3 4k Instruct 是一個輕量級但功能強大的語言模型，經過4位量化處理以降低資源需求。

Llama 3 8B 指令模型的 GGUF 量化版本，適用於本地推理，支持高效部署

MiniCPM是由面壁智能與清華大學自然語言處理實驗室聯合開發的端側大語言模型，非詞嵌入參數量僅24億（2.4B），支持128k上下文窗口。

Gemma是Google推出的輕量級開放模型系列，基於與Gemini相同技術構建，適用於多種文本生成任務。