Devstral Small 2507 GGUF

🚀 Devstral Small 1.1 GGUF

Devstral Small 1.1 GGUF是一个专为软件工程任务打造的大语言模型，它结合了Mistral AI和All Hands AI的技术优势，在代码处理和软件工程代理方面表现出色。该模型基于Mistral架构，具有长上下文窗口，适用于多种编码场景。

🚀 快速开始

本仓库包含Mistral AI的 Devstral Small 1.1 (2507) 的GGUF格式模型文件。你可以在Mistral的公告博客文章中了解更多信息。

✨ 主要特性

• 强大的软件工程能力：Devstral是由Mistral AI和All Hands AI合作开发的面向软件工程任务的大语言模型。它擅长使用工具探索代码库、编辑多个文件以及驱动软件工程代理，在SWE-bench基准测试中表现卓越，位居开源模型榜首。
• 长上下文窗口：该模型基于Mistral-Small-3.1进行微调，拥有长达128k token的上下文窗口。
• 文本专用模型：作为一个编码代理，Devstral仅处理文本，在从Mistral-Small-3.1微调之前，移除了视觉编码器。

📦 安装指南

暂未提供安装步骤相关内容。

💻 使用示例

聊天模板

本模型使用Mistral 3 (v7-Tekken)的聊天模板：

<s>[SYSTEM_PROMPT]{{system_message}}[/SYSTEM_PROMPT]

[INST]{{prompt}}[/INST]
{{assistant_response}}</s>

📚 详细文档

什么是GGUF？

GGUF是一种用于表示AI模型的文件格式，它是该格式的第三个版本，由ggml-org团队于2023年8月21日推出。本模型使用llama.cpp build b5864（版本号 11ee0fe）和autogguf-rs进行转换。

在iPhone、iPad和Mac上使用cnvrs下载和运行

cnvrs是一款在设备上运行私有本地AI的优秀应用程序，具有以下特点：

• 自定义角色：可以创建并保存具有自定义系统提示和温度设置的角色。
• 模型下载与实验：可以下载并试验在HuggingFace上找到的任何GGUF模型，也可以使用API密钥与你选择的兼容聊天完成的模型提供商（如ChatGPT、Claude、Gemini、DeepSeek等）进行交互。
• 自定义主题：可以使用自定义主题颜色进行个性化设置。
• 高性能运行：由Metal ⚡️和Llama.cpp提供支持，在响应流式传输期间具有触觉反馈。
• 立即试用：你可以在Testflight上亲自试用该应用程序。如果你已经安装了该应用程序，可以立即下载Devstral Small 2507。点击链接 cnvrsai:///models/search/hf?id=brittlewis12/devstral-small-2507-GGUF 即可下载。
• 关注更新：关注cnvrs的Twitter以获取最新信息。

原始模型评估

📄 许可证

本模型使用的许可证为apache-2.0。