Qwenstral Small 3.1 0.5B

🚀 Qwenstral-Small-3.1-0.5B

Qwenstral-Small-3.1-0.5B 是一个文本生成模型，它基于 Qwen/Qwen2.5-0.5B，并使用 transplant-vocab 工具移植了 mistralai/Mistral-Small-3.1-24B-Instruct-2503 或 mistralai/Mistral-Small-24B-Instruct-2501 的词表。该模型可直接作为 Mistral-Small 的草稿模型使用，同时还有基于 Mistral 输出进行微调的性能更优的变体。

📚 详细文档

模型基础信息

模型描述

该模型以 Qwen/Qwen2.5-0.5B 为基础，通过 transplant-vocab 工具移植了 mistralai/Mistral-Small-3.1-24B-Instruct-2503 或 mistralai/Mistral-Small-24B-Instruct-2501 的词表。它能够直接作为 Mistral-Small 的草稿模型使用。不过，还有基于 Mistral 输出进行微调的性能更优的变体：

• alamios/Mistral-Small-3.1-DRAFT-0.5B
• alamios/Mistral-Small-3.1-DRAFT-0.5B-GGUF

📄 许可证

本项目采用 Apache 2.0 许可证。