面向真实世界物理AI机器人的卸载式推理
微软研究院这篇博客挑战了机器人AI推理必须全部跑在机载GPU上的常见假设。
具体内容
微软研究院这篇博客挑战了机器人AI推理必须全部跑在机载GPU上的常见假设。作者以移动机械臂操作（如“检查厨房垃圾并丢进垃圾桶”）为对象，对语义建图与规划、导航、操作三类模型在机载、边缘和云端GPU上做了系统性测量，声称卸载推理可提升任务成功率、支持更大模型并延长电池续航，同时发布了基于Kubernetes的推理卸载工具链。需注意这些为作者自述结果，本次整理未额外核验独立复现情况。
- 作者测量称，机载较小GPU使建图与规划最多变慢383%，导航障碍及时检测下降30%。
- 摘要表示VLA模型在小GPU上精度可下降50%，卸载到更强GPU后物体交接成功率明显提升。
- 用Raspberry Pi-5替代机载GPU并远程推理，作者称Stretch-3机器人续航可提升一倍以上。
官方研究或发布信息；实验结果、评测和研究系统不等于已获独立验证或已经面向所有用户开放。
用户标记：未标记
固定编号：06829261ca1213b5
原文来源