Lucy

🚀 Lucy：借助17亿参数模型实现移动设备上的前沿自主网页搜索

Lucy是一款专注于自主网页搜索和轻量级浏览的17亿参数模型。它基于Qwen3-1.7B构建，在继承大型模型强大研究能力的同时，经过优化可在移动设备（甚至仅使用CPU）上高效运行。

项目信息

项目链接

• GitHub仓库
• 许可证详情

项目作者

• Alan Dao
• Bach Vu Dinh
• Alex Nguyen
• Norapat Buppodom

项目演示

模型图片

🚀 快速开始

Lucy是一款轻量级但功能强大的17亿参数模型，专注于自主网页搜索和轻量级浏览。它基于Qwen3-1.7B构建，继承了大型模型的深度研究能力，同时经过优化可在移动设备上高效运行，即使仅使用CPU配置也没问题。

我们通过机器生成的任务向量来优化思考过程、平滑多类别奖励函数，并采用纯强化学习（无任何监督微调）实现了这一目标。

✨ 主要特性

• 🔍 强大的自主搜索能力：由支持MCP的工具（如集成谷歌搜索的Serper）提供支持。
• 🌐 基本浏览功能：通过Crawl4AI（MCP服务器即将发布）、Serper等实现。
• 📱 移动设备优化：模型轻量级，可在CPU或移动设备上以不错的速度运行。
• 🎯 专注推理：机器生成的任务向量优化搜索任务的思考过程。

🔧 技术细节

遵循与Jan-Nano和Jan-Nano-128k相同的MCP基准测试方法，尽管Lucy只是一个17亿参数的模型，但它表现出了令人印象深刻的性能，在SimpleQA上的准确率高于DeepSeek-v3。

📦 安装指南

Lucy可以使用多种方法进行部署，包括vLLM、llama.cpp，或者通过本地应用程序（如Jan、LMStudio和其他兼容的推理引擎）。该模型支持通过MCP与搜索API和网页浏览工具集成。

部署方法

使用VLLM部署

vllm serve Menlo/Lucy-128k \
    --host 0.0.0.0 \
    --port 1234 \
    --enable-auto-tool-choice \
    --tool-call-parser hermes 

使用llama.cpp的llama-server部署

llama-server ... 

推荐采样参数

Temperature: 0.7
Top-p: 0.9
Top-k: 20
Min-p: 0.0

🤝 社区与支持

• 讨论区：HuggingFace社区

📄 引用信息

论文（即将发布）：Lucy: edgerunning agentic web search on mobile with machine generated task vectors.