Minicpm4 MCP

🚀 MiniCPM4-MCP

MiniCPM4-MCP是一款开源的端侧大语言模型（LLM）智能体模型，由清华大学自然语言处理实验室（THUNLP）、中国人民大学和ModelBest联合开发。它基于拥有80亿参数的MiniCPM - 4构建，能够通过MCP与各种工具和数据资源交互，解决广泛的现实世界任务。

🚀 快速开始

你可以通过以下链接了解更多关于MiniCPM4-MCP的信息：

• GitHub仓库
• 技术报告

同时，欢迎加入我们的交流社区：

• Discord
• 微信群

✨ 主要特性

最新动态

• [2025.06.06] MiniCPM4 系列发布！该模型在相同规模下保持最佳性能的同时，实现了极致的效率提升！在典型的端侧芯片上，它可以实现超过5倍的生成加速。你可以点击此处查看技术报告。🎉🎉🎉

MiniCPM4系列模型

MiniCPM4系列是专门为端侧设备设计的高效大语言模型（LLM），通过在模型架构、训练数据、训练算法和推理系统四个关键维度上进行系统创新，实现了高效性。

• MiniCPM4 - 8B：MiniCPM4的旗舰模型，拥有80亿参数，在8T的token上进行训练。
• MiniCPM4 - 0.5B：MiniCPM4的小版本，拥有0.5B参数，在1T的token上进行训练。
• MiniCPM4 - 8B - Eagle - FRSpec：用于FRSpec的Eagle头，加速MiniCPM4 - 8B的推测推理。
• MiniCPM4 - 8B - Eagle - FRSpec - QAT - cpmcu：使用QAT为FRSpec训练的Eagle头，有效整合推测和量化，为MiniCPM4 - 8B实现超加速。
• MiniCPM4 - 8B - Eagle - vLLM：vLLM格式的Eagle头，加速MiniCPM4 - 8B的推测推理。
• MiniCPM4 - 8B - marlin - Eagle - vLLM：vLLM格式的量化Eagle头，加速MiniCPM4 - 8B的推测推理。
• BitCPM4 - 0.5B：将极端三元量化应用于MiniCPM4 - 0.5B，将模型参数压缩为三元值，实现了90%的位宽缩减。
• BitCPM4 - 1B：将极端三元量化应用于MiniCPM3 - 1B，将模型参数压缩为三元值，实现了90%的位宽缩减。
• MiniCPM4 - Survey：基于MiniCPM4 - 8B，接受用户的查询作为输入，自主生成可信的长篇调查报告。
• MiniCPM4 - MCP：基于MiniCPM4 - 8B，接受用户的查询和可用的MCP工具作为输入，自主调用相关的MCP工具以满足用户需求。（<-- 你正在查看此模型）

MiniCPM4 - MCP的使用特性

• 多MCP服务器工具利用：支持利用16个MCP服务器上的工具，这些服务器涵盖办公、生活、通讯、信息和工作管理等多个类别。
• 单工具调用能力：可以使用符合MCP的单个工具进行单步或多步工具调用。
• 跨工具调用能力：可以使用符合MCP的不同工具进行单步或多步工具调用。

📚 详细文档

评估

详细的评估脚本可以在GitHub页面找到。评估结果如下：

声明

• 作为一个语言模型，MiniCPM通过学习大量文本生成内容。
• 然而，它不具备理解或表达个人观点或价值判断的能力。
• MiniCPM生成的任何内容都不代表模型开发者的观点或立场。
• 因此，在使用MiniCPM生成的内容时，用户应自行承担评估和验证的全部责任。

📄 许可证

本仓库和MiniCPM模型遵循Apache - 2.0许可证发布。

📖 引用

如果您认为我们的工作有价值，请引用我们的论文。

@article{minicpm4,
  title={{MiniCPM4}: Ultra-Efficient LLMs on End Devices},
  author={MiniCPM Team},
  year={2025}
}