专题解读：利用投机采样加速大模型推理简介在大模型的应用场景中，推理速度是最为影响用户体验的要素之一。针对大模型推理速度的优化有很多工作，本文将聚焦于投机采样技术。目前的大模型通常采用自回归的方式生成文...