# FP8量化优化

Qwen3-14B-FP8-dynamic 是一个经过优化的大语言模型，通过将激活值和权重量化为 FP8 数据类型，有效降低了 GPU 内存需求，提高了计算吞吐量。

Llama-3.3-70B-Instruct-FP8-dynamic 是经过优化的大语言模型，通过将激活和权重量化为 FP8 数据类型，减少了 GPU 内存需求并提高了计算吞吐量，支持多语言的商业和研究用途。

基于flux.dev模型微调的文本生成图像模型，特别适合亚洲风格图像生成，支持FP8量化。

NVIDIA Llama 3.1 405B Instruct FP8模型是Meta的Llama 3.1 405B Instruct模型的量化版本，采用优化的Transformer架构，是一个自回归语言模型。该模型可用于商业或非商业用途。