# 轻量级部署

Mi:dm 2.0 是一款以韩国为中心的 AI 模型，由 KT 运用其专有技术开发。该模型深入内化了韩国社会独特的价值观、认知框架和常识推理，不仅能处理和生成韩语内容，还能体现对韩国社会文化规范和价值观的深刻理解。

这是一个基于Qari-OCR-0.3-SNAPSHOT-VL-2B-Instruct-merged模型的静态量化版本，主要用于图像到文本的转换任务。

专为软件工程项目打造的高效语言模型，轻量级设计，支持128k大上下文窗口，适用于复杂编码任务。

本项目是kakaocorp/kanana-safeguard-8b的量化版本，致力于让知识为大众所用。

Devstral是由Mistral AI和All Hands AI合作开发的软件工程任务代理型大语言模型，擅长使用工具探索代码库、编辑多个文件以及驱动软件工程代理。

Devstral是由Mistral AI与All Hands AI合作开发的面向软件工程任务的智能体大语言模型，擅长利用工具探索代码库、编辑多文件及驱动软件工程智能体。

Devstral-Small-2505-8bit 是一个基于 mistralai/Devstral-Small-2505 转换的 8 位量化模型，适用于 MLX 框架，支持多种语言的文本生成任务。

Devstral是一款专为软件工程任务设计的智能LLM，由Mistral AI和All Hands AI合作开发，擅长代码探索、多文件编辑和驱动软件工程代理。

Devstral是一款专为软件工程任务设计的智能大语言模型，由Mistral AI和All Hands AI合作开发，擅长代码探索、多文件编辑和驱动软件工程智能体。

Devstral是一款专为软件工程任务设计的智能大型语言模型，由Mistral AI和All Hands AI合作开发，擅长代码探索、编辑和驱动软件工程代理。

TEN VAD 是一个低延迟、轻量级、高性能的流式语音活动检测系统，适用于实时语音处理场景。

Devstral是由Mistral AI与All Hands AI合作开发的面向软件工程任务的智能大语言模型，擅长代码库探索、多文件编辑和驱动软件工程代理。

这是一个基于🤗 transformers库的模型，具体功能和用途尚未明确说明。

OpenVision 是一个全开放、高性价比的先进视觉编码器家族，专为多模态学习设计。

OpenVision是一个全开放、高性价比的先进视觉编码器家族，专注于多模态学习任务。

OpenVision 是一个全开放、高性价比的先进视觉编码器家族，专注于多模态学习。

这是一个自动语音识别模型，已转换为适用于MLX的版本，可快速进行推理。

OLMo-2-0425-1B-Instruct是由AllenAI开发的一个10亿参数规模的指令微调语言模型，专注于文本生成任务。

Phi-4-mini-reasoning 是一个基于合成数据构建的轻量级开放模型，专注于高质量、富含推理的数据，并针对更高级的数学推理能力进行了进一步微调。

这是一个基于Qwen3-4B模型转换到MLX格式的4位量化版本，适用于文本生成任务。

这是AST(Audio Spectrogram Transformer)模型的ONNX版本，专为音频分类任务设计，在AudioSet数据集上进行了微调。

这是微软Phi-4-mini-reasoning模型的量化版本，使用llamacpp工具进行量化处理，旨在提升模型在不同硬件环境下的运行效率和性能。

这是 Josiefied-Qwen3-4B-abliterated-v1 模型的 GGUF 量化版本，适用于本地部署和运行。

Dia是一款16亿参数的开源文本转语音模型，支持生成高度逼真的对话和非语言表达

Dia是一款开源权重的文本转对话模型，支持对话文本生成和语音合成。

Mistral-Small-24B-Instruct-2501 是一个24B参数规模的指令微调大语言模型，支持多语言文本生成任务。

Gemma 3是Google推出的轻量级、最先进的多模态开源模型，能够处理文本和图像输入并生成文本输出。

Gemma 3是谷歌推出的轻量级多模态模型，能够处理文本和图像输入并生成文本输出。该模型具有128K大上下文窗口和超140种语言的多语言支持。

一款具备指令跟随能力的韩语优化文本生成模型，轻量级设计适合边缘设备部署

Gemma 3是谷歌推出的轻量级先进开放模型系列，基于创建Gemini模型的相同研究和技术构建。该模型是多模态的，能够处理文本和图像输入并生成文本输出。

GigaAM v2 是一个自动语音识别（ASR）模型，支持俄语语音转文本任务，提供CTC和RNN-T两种架构。

Gemma是Google推出的轻量级开放模型系列，基于Gemini模型技术构建。Gemma 3是多模态模型，支持文本和图像输入，生成文本输出，具有128K大上下文窗口和多语言能力。

基于Google QAT权重量化的Gemma 3B模型，支持多种量化级别，适用于资源受限环境下的高效推理。

该模型是基于IBM Granite-3.3-8B指令微调模型转换而来的GGUF格式模型，适用于文本生成任务。

这是一个基于 Google Gemma 3-12B 模型转换而来的 MLX 格式模型，支持图像文本到文本的任务。

这是一个基于canopylabs/3b-fr-ft-research_release模型转换的GGUF格式法语语言模型，适用于文本生成任务。

Gemma 3是Google推出的轻量级多模态开放模型，支持文本和图像输入，生成文本输出。4B版本经过指令调优和量化感知训练，适合资源有限环境部署。

Gemma是Google推出的轻量级先进开放模型系列，基于与Gemini相同技术构建，支持多模态输入和文本生成。

Gemma 3是Google推出的轻量级开源多模态模型系列，基于Gemini技术构建，支持文本和图像输入，生成文本输出。1B版本经过指令调优和量化感知训练(QAT)，适合资源有限环境部署。

这是一个基于mistralai/Mistral-Small-3.1-24B-Instruct-2503转换的GGUF格式模型，支持多语言文本生成任务。