大模型的自回归解码难以并行,往往受到显存带宽与 KV Cache 读取开销限制;优化推理需要同时关注模型结构、内存占用和请求调度。