L

Llama 2 7b Int4 GPTQ Python Code 20k

由edumunozsala開發
這是Llama 2 7B模型的4位GPTQ量化版本,專門針對Python代碼生成任務進行了微調
下載量 22
發布時間 : 9/4/2023

模型概述

該模型是基於Llama 2 7B架構的4位GPTQ量化版本,專注於Python代碼生成任務,使用QLoRa進行4位量化並結合PEFT庫和bitsandbytes

模型特點

4位GPTQ量化
使用GPTQ算法進行4位量化,顯著減小模型體積同時保持性能
Python代碼優化
專門針對Python代碼生成任務進行微調
高效推理
量化後的模型在消費級GPU上也能高效運行

模型能力

Python代碼生成
代碼補全
代碼解釋

使用案例

開發輔助
代碼自動補全
幫助開發者快速生成Python代碼片段
代碼解釋
為現有代碼提供解釋和文檔
教育
編程學習輔助
為編程學習者提供示例代碼和解答
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase