Meta Llama 3 8B Instruct FP8 KV

🚀 Meta-Llama-3-8B-Instruct-FP8-KV

本项目的Meta-Llama-3-8B-Instruct-FP8-KV模型，将Meta-Llama-3-8B-Instruct模型量化为FP8权重和激活值，可借助vLLM进行推理。同时，该模型还包含FP8量化的KV缓存，能有效提升推理效率。

🚀 快速开始

使用以下代码即可加载并运行模型：

from vllm import LLM
model = LLM(model="neuralmagic/Meta-Llama-3-8B-Instruct-FP8-KV", kv_cache_dtype="fp8")
result = model.generate("Hello, my name is")

✨ 主要特性

• FP8量化：采用逐张量量化方式，将模型的权重和激活值量化为FP8格式，减少内存占用，提升推理速度。
• KV缓存支持：模型检查点包含FP8量化的KV缓存的逐张量缩放，可通过vLLM中的 --kv-cache-dtype fp8 参数访问。

📦 安装指南

文档中未提及具体安装步骤，若要使用该模型，需确保安装了vLLM >= 0.5.0版本。

💻 使用示例

基础用法

from vllm import LLM
model = LLM(model="neuralmagic/Meta-Llama-3-8B-Instruct-FP8-KV", kv_cache_dtype="fp8")
result = model.generate("Hello, my name is")

高级用法

以下代码展示了如何使用 AutoFP8 和校准样本对模型进行量化：

from datasets import load_dataset
from transformers import AutoTokenizer

from auto_fp8 import AutoFP8ForCausalLM, BaseQuantizeConfig

pretrained_model_dir = "meta-llama/Meta-Llama-3-8B-Instruct"
quantized_model_dir = "Meta-Llama-3-8B-Instruct-FP8-KV"

tokenizer = AutoTokenizer.from_pretrained(pretrained_model_dir, use_fast=True)
tokenizer.pad_token = tokenizer.eos_token

ds = load_dataset("mgoin/ultrachat_2k", split="train_sft")
examples = [tokenizer.apply_chat_template(batch["messages"], tokenize=False) for batch in ds]
examples = tokenizer(examples, padding=True, truncation=True, return_tensors="pt").to("cuda")

quantize_config = BaseQuantizeConfig(
    quant_method="fp8",
    activation_scheme="static",
    ignore_patterns=["re:.*lm_head"],
    kv_cache_quant_targets=("k_proj", "v_proj"),
)

model = AutoFP8ForCausalLM.from_pretrained(pretrained_model_dir, quantize_config)
model.quantize(examples)
model.save_quantized(quantized_model_dir)

📚 详细文档

评估结果

这些评估结果展示了本模型在特定任务上的性能表现，与原始模型及其他量化版本进行了对比。