Meta Llama 3 8B Instruct FP8 KV

🚀 Meta-Llama-3-8B-Instruct-FP8-KV

Meta-Llama-3-8B-Instruct-FP8-KVは、FP8の重みと活性化関数に量子化されたモデルです。vLLM >= 0.5.0を使用して推論を行うことができます。このモデルは、FP8量子化されたKVキャッシュのパーテンソルスケールを含んでおり、vLLMで--kv-cache-dtype fp8引数を使用してアクセスできます。

🚀 クイックスタート

from vllm import LLM
model = LLM(model="neuralmagic/Meta-Llama-3-8B-Instruct-FP8-KV", kv_cache_dtype="fp8")
result = model.generate("Hello, my name is")

✨ 主な機能

• パーテンソル量子化を使用してFP8の重みと活性化関数に量子化されています。
• vLLM >= 0.5.0を使用した推論に対応しています。
• FP8量子化されたKVキャッシュのパーテンソルスケールを含んでいます。

📦 インストール

このモデルは、vLLMを使用して推論を行うことができます。vLLMのインストール方法については、vLLMの公式リポジトリを参照してください。

💻 使用例

基本的な使用法

from vllm import LLM
model = LLM(model="neuralmagic/Meta-Llama-3-8B-Instruct-FP8-KV", kv_cache_dtype="fp8")
result = model.generate("Hello, my name is")

高度な使用法

from datasets import load_dataset
from transformers import AutoTokenizer

from auto_fp8 import AutoFP8ForCausalLM, BaseQuantizeConfig

pretrained_model_dir = "meta-llama/Meta-Llama-3-8B-Instruct"
quantized_model_dir = "Meta-Llama-3-8B-Instruct-FP8-KV"

tokenizer = AutoTokenizer.from_pretrained(pretrained_model_dir, use_fast=True)
tokenizer.pad_token = tokenizer.eos_token

ds = load_dataset("mgoin/ultrachat_2k", split="train_sft")
examples = [tokenizer.apply_chat_template(batch["messages"], tokenize=False) for batch in ds]
examples = tokenizer(examples, padding=True, truncation=True, return_tensors="pt").to("cuda")

quantize_config = BaseQuantizeConfig(
    quant_method="fp8",
    activation_scheme="static",
    ignore_patterns=["re:.*lm_head"],
    kv_cache_quant_targets=("k_proj", "v_proj"),
)

model = AutoFP8ForCausalLM.from_pretrained(pretrained_model_dir, quantize_config)
model.quantize(examples)
model.save_quantized(quantized_model_dir)

📚 ドキュメント

このモデルは、AutoFP8 with calibration samples from ultrachatを使用して生成されました。

🔧 技術詳細

• モデルタイプ：Meta-Llama-3-8B-InstructをFP8に量子化したモデル
• 訓練データ：ultrachatのキャリブレーションサンプル

評価

Open LLM Leaderboardの評価スコア