Qwen3 8B GGUF

🚀 Qwen3 8B量化模型

該模型是LM Studio社區模型亮點計劃的一部分，旨在展示社區中新穎且值得關注的模型。快來Discord參與討論吧！

模型信息

模型創建者

Qwen

原始模型

Qwen3 - 8B

GGUF量化

由bartowski基於llama.cpp的b5200版本提供。

🔧 技術細節

• 上下文長度：藉助YaRN技術，支持最長達131,072個標記的上下文長度（默認32k）。
• 禁用推理：支持使用/no_think來禁用推理功能，只需將其添加到提示詞末尾即可。
• 推理模式：支持思考和非思考兩種模式，且在兩種模式下都增強了推理能力，在數學、編碼和常識推理方面表現顯著提升。
• 應用場景：在創意寫作、角色扮演、多輪對話和指令遵循等方面表現出色。
• 語言支持：具備先進的智能體能力，支持超過100種語言和方言。

👏 特別感謝

特別感謝Georgi Gerganov以及llama.cpp的整個開發團隊，是他們讓這一切成為可能。

⚠️ 免責聲明

LM Studio並非社區模型計劃中任何模型的創建者、發起者或所有者。每個社區模型均由第三方創建和提供。LM Studio不認可、支持、代表或保證任何社區模型的完整性、真實性、準確性或可靠性。您需明白，社區模型生成的內容可能具有冒犯性、有害性、不準確性或其他不當性，甚至具有欺騙性。每個社區模型的唯一責任在於發起該模型的個人或實體。LM Studio可能不會監控或控制社區模型，也不能且不會對任何此類模型負責。LM Studio對社區模型的準確性、可靠性或益處不做任何保證。此外，LM Studio不保證社區模型能滿足您的需求，也不保證其安全性、連續性、隨時可用性、無錯誤、無病毒，或能修復任何錯誤等。您需獨自承擔因使用或訪問社區模型、下載任何社區模型，或使用LM Studio提供或通過其提供的任何其他社區模型而導致的任何損失。