Granite 3.3 2b Instruct GGUF

🚀 💫 社區模型 - IBM-Granite的Granite 3.3 2B指令模型

本項目是一個文本生成模型，基於IBM-Granite的Granite 3.3 2B指令模型進行量化，具備多種語言支持和強大的推理能力，可用於多種自然語言處理任務。

🚀 快速開始

本模型可在 LM Studio 中使用，你可以通過該平臺體驗模型的文本生成能力。同時，歡迎加入 Discord 社區，參與關於該模型的討論。

✨ 主要特性

• 模型創建者：ibm-granite
• 原始模型：granite-3.3-2b-instruct
• GGUF量化：由 bartowski 基於 llama.cpp 版本 b5147 提供

🔧 技術細節

• 上下文長度：支持128k個標記的上下文長度。
• 微調優化：經過微調，具備更好的推理和指令遵循能力。
• 結構化推理：支持通過 <think></think> 和 <response></response> 標籤進行結構化推理。
• 多語言支持：支持英語、德語、西班牙語、法語、日語、葡萄牙語、阿拉伯語、捷克語、意大利語、韓語、荷蘭語和中文。
• 任務能力：能夠進行思考、分類、提取、編碼（包括FIM）、函數調用以及長上下文任務，如總結、RAG和長文檔問答。

📄 許可證

本模型採用 apache-2.0 許可證。

特別感謝

🙏 特別感謝 Georgi Gerganov 以及 llama.cpp 團隊，是他們讓這一切成為可能。

免責聲明

LM Studio並非社區模型計劃中任何模型的創建者、發起者或所有者。每個社區模型均由第三方創建和提供。LM Studio不認可、支持、代表或保證任何社區模型的完整性、真實性、準確性或可靠性。你應明白，社區模型可能會生成具有冒犯性、有害性、不準確或其他不當或欺騙性的內容。每個社區模型的唯一責任在於發起該模型的個人或實體。LM Studio可能不會監控或控制社區模型，並且不能也不會對任何此類模型承擔責任。LM Studio不承擔關於社區模型的準確性、可靠性或益處的所有保證或擔保。此外，LM Studio不保證社區模型將滿足你的要求，保證其安全性、不間斷性或在任何時間或地點可用，或保證無錯誤、無病毒，或保證任何錯誤將得到糾正等。你將對因使用或訪問社區模型、下載任何社區模型或使用由LM Studio提供或通過LM Studio提供的任何其他社區模型而導致的任何損害承擔全部責任。