# FP8量化優化

Qwen3-14B-FP8-dynamic 是一個經過優化的大語言模型，通過將激活值和權重量化為 FP8 數據類型，有效降低了 GPU 內存需求，提高了計算吞吐量。

Llama-3.3-70B-Instruct-FP8-dynamic 是經過優化的大語言模型，通過將激活和權重量化為 FP8 數據類型，減少了 GPU 內存需求並提高了計算吞吐量，支持多語言的商業和研究用途。

基於flux.dev模型微調的文本生成圖像模型，特別適合亞洲風格圖像生成，支持FP8量化。

NVIDIA Llama 3.1 405B Instruct FP8模型是Meta的Llama 3.1 405B Instruct模型的量化版本，採用優化的Transformer架構，是一個自迴歸語言模型。該模型可用於商業或非商業用途。