Qwen3 8B GGUF

🚀 Qwen3 8B量化模型

该模型是LM Studio社区模型亮点计划的一部分，旨在展示社区中新颖且值得关注的模型。快来Discord参与讨论吧！

模型信息

模型创建者

Qwen

原始模型

Qwen3 - 8B

GGUF量化

由bartowski基于llama.cpp的b5200版本提供。

🔧 技术细节

• 上下文长度：借助YaRN技术，支持最长达131,072个标记的上下文长度（默认32k）。
• 禁用推理：支持使用/no_think来禁用推理功能，只需将其添加到提示词末尾即可。
• 推理模式：支持思考和非思考两种模式，且在两种模式下都增强了推理能力，在数学、编码和常识推理方面表现显著提升。
• 应用场景：在创意写作、角色扮演、多轮对话和指令遵循等方面表现出色。
• 语言支持：具备先进的智能体能力，支持超过100种语言和方言。

👏 特别感谢

特别感谢Georgi Gerganov以及llama.cpp的整个开发团队，是他们让这一切成为可能。

⚠️ 免责声明

LM Studio并非社区模型计划中任何模型的创建者、发起者或所有者。每个社区模型均由第三方创建和提供。LM Studio不认可、支持、代表或保证任何社区模型的完整性、真实性、准确性或可靠性。您需明白，社区模型生成的内容可能具有冒犯性、有害性、不准确性或其他不当性，甚至具有欺骗性。每个社区模型的唯一责任在于发起该模型的个人或实体。LM Studio可能不会监控或控制社区模型，也不能且不会对任何此类模型负责。LM Studio对社区模型的准确性、可靠性或益处不做任何保证。此外，LM Studio不保证社区模型能满足您的需求，也不保证其安全性、连续性、随时可用性、无错误、无病毒，或能修复任何错误等。您需独自承担因使用或访问社区模型、下载任何社区模型，或使用LM Studio提供或通过其提供的任何其他社区模型而导致的任何损失。