Qwen2.5 Wolverine CODER 11B Gguf

🚀 Qwen2.5-Wolverine-Coder-11B-gguf

本項目基於兩個優秀的編碼AI模型進行融合，打造出了一個性能強勁、理解能力出色的編碼引擎，能快速解決編程難題，生成更強大、更緊湊的代碼。

🚀 快速開始

本模型有不同的量化版本可供選擇，包括Q4_K_S、IQ3_S - NEO IMATRIX和Q8 MAX 。對於簡單項目或較小代碼，建議使用較小的量化版本；對於大型複雜項目或有大量指令的情況，建議使用Q8 MAX 。

✨ 主要特性

• 強大的編碼能力：基於“Qwen2.5-Coder-7B-Instruct”和“OlympicCoder-7B”兩個優秀的編碼AI模型，生成的代碼質量高，能更好地理解用戶指令。
• 多種量化版本：提供Q4_K_S、IQ3_S - NEO IMATRIX和Q8 MAX等多種量化版本，滿足不同項目需求。
• 不同配置選擇：有兩種配置可供選擇，不同配置的版本在性能上會有差異。
• 支持工具調用：兩個版本均支持工具調用。

📦 安裝指南

文檔未提及具體安裝步驟，可參考“Qwen2.5-Coder-7B-Instruct” [https://huggingface.co/Qwen/Qwen2.5-Coder-7B-Instruct ] 和“OlympicCoder-7B” [https://huggingface.co/open-r1/OlympicCoder-7B ] 的倉庫獲取相關信息。

📚 詳細文檔

模型基礎信息

配置與設置

• 上下文長度：這些GGUFS模型設置為32k/32768上下文，完整量化版本和完整倉庫將為128k/131072。
• 要求：參考“Qwen 2.5 7B Coder”的默認設置，溫度範圍為0.5到0.7（或更低），topk為20，topp為0.8，minp為0.05，重複懲罰為1.1（可更低），支持Jinja模板（嵌入式）或CHATML模板，不需要系統提示（已使用空白系統提示進行測試）。

注意事項

• 每個配置/版本之間會有很大差異。
• 模型已測試到IQ2_S (NEO Imatrix)，可完全運行。
• 兩個版本均支持工具調用。
• 後續將提供完整的量化信息和完整倉庫。
• 最終模型大小（包括層/張量）和配置可能會發生變化。

如需更多設置、基準測試和使用方法，請參考“Qwen2.5-Coder-7B-Instruct”和“OlympicCoder-7B”的倉庫。

📄 許可證

本項目採用Apache-2.0許可證。

“迅速解決你的編程煩惱……”

該模型擁有42層和507個張量，宛如一個強大的怪物。實際上，它融合了兩個強大的模型。每個模型都能生成更強大、更緊湊的代碼，並且能更好地理解你的指令，嚴格按照你的要求執行。

這兩個強大且快速的編碼引擎基於兩個優秀的編碼AI：“Qwen2.5-Coder-7B-Instruct” [https://huggingface.co/Qwen/Qwen2.5-Coder-7B-Instruct ] 和“OlympicCoder-7B” [https://huggingface.co/open-r1/OlympicCoder-7B ] 。這兩個模型被融合成一個緊湊的11B模型，在性能和理解能力上都超過了原始的捐贈模型。