M

Meta Llama 3.1 8B Instruct GPTQ INT4

由hugging-quants開發
這是Meta-Llama-3.1-8B-Instruct模型的INT4量化版本,使用GPTQ算法進行量化,適用於多語言對話場景。
下載量 128.18k
發布時間 : 7/24/2024

模型概述

Llama 3.1 8B Instruct是一個指令調優的大語言模型,針對多語言對話進行了優化,支持多種語言。本版本是原模型的INT4量化版本,降低了顯存需求。

模型特點

多語言支持
支持包括英語、德語、法語、意大利語等多種語言的文本生成
指令調優
針對對話場景進行了專門的指令調優,能更好地理解並執行用戶指令
高效量化
使用GPTQ算法進行INT4量化,顯著降低顯存需求同時保持較好的模型性能

模型能力

多語言文本生成
對話式交互
指令理解與執行
知識問答

使用案例

智能助手
多語言客服機器人
構建支持多種語言的智能客服系統
能流暢處理不同語言的客戶諮詢
教育
語言學習助手
幫助語言學習者練習對話和寫作
提供自然流暢的目標語言交流體驗
AIbase
智啟未來,您的人工智能解決方案智庫
© 2025AIbase