面向可部署视觉-语言-动作策略的高效推理基础设施

在真实机器人系统中部署 VLA 策略，对推理延迟与吞吐量的要求远超标准服务栈的能力边界。 我们系统性地刻画了流匹配 VLA 架构的推理瓶颈，并提出一套优化方案， 包括动作块缓存、投机去噪与异构 GPU-CPU 流水线调度。 该基础设施在不损失精度的情况下，使商用硬件上的端到端策略推理延迟降至 20ms 以下， 弥合了研究模型与生产级机器人部署之间的差距。