动察 Beating AI 快讯,杨立昆创办的 AMI Labs 联合布朗大学研究人员发表新论文《Counterfactual World Models》,让 JEPA 世界模型能够根据一次行动的真实结果,推算如果当时换个动作,能否避免失败。这种能力叫「反事实推演」。
比如,机器人要把货物送到指定位置,却被一阵风吹偏了。它怎么判断是自己选错了方向,还是风太大导致任务失败?普通世界模型能预测不同动作通常会带来什么结果,却不知道这一次风造成了多大影响。
新方法利用实际结果与原先预测的偏差,估算这次外部干扰的影响,再推算如果当时选择其他动作,结果会有什么不同。整个过程只需调用已有预测器两次,不用额外训练反事实模型。机器人便可以事后判断,换个动作是否有机会完成目标。
在四个物理仿真环境中,团队报告,模型事后找到本可完成目标的动作的比例达到 35%–69%,对照方法只有 14%–23%。即使对照方法知道仿真环境的真实物理规则,只要不知道这次实际发生的干扰,表现仍然落后。
不过,这种方法要求动作和外部干扰的影响大致可以叠加。如果发生碰撞,或者电机故障使不同指令受到的影响不同,预测就可能失准。目前研究仍限于仿真环境,尚未验证真实机器人的实际控制效果。