Qwenstral Small 3.1 0.5B

🚀 Qwenstral-Small-3.1-0.5B

Qwenstral-Small-3.1-0.5B 是一個文本生成模型，它基於 Qwen/Qwen2.5-0.5B，並使用 transplant-vocab 工具移植了 mistralai/Mistral-Small-3.1-24B-Instruct-2503 或 mistralai/Mistral-Small-24B-Instruct-2501 的詞表。該模型可直接作為 Mistral-Small 的草稿模型使用，同時還有基於 Mistral 輸出進行微調的性能更優的變體。

📚 詳細文檔

模型基礎信息

模型描述

該模型以 Qwen/Qwen2.5-0.5B 為基礎，通過 transplant-vocab 工具移植了 mistralai/Mistral-Small-3.1-24B-Instruct-2503 或 mistralai/Mistral-Small-24B-Instruct-2501 的詞表。它能夠直接作為 Mistral-Small 的草稿模型使用。不過，還有基於 Mistral 輸出進行微調的性能更優的變體：

• alamios/Mistral-Small-3.1-DRAFT-0.5B
• alamios/Mistral-Small-3.1-DRAFT-0.5B-GGUF

📄 許可證

本項目採用 Apache 2.0 許可證。