動察 Beating AI 快訊,楊立昆創辦的 AMI Labs 聯合布朗大學研究人員發表新論文《Counterfactual World Models》,讓 JEPA 世界模型能夠根據一次行動的真實結果,推算如果當時換個動作,能否避免失敗。這種能力叫「反事實推演」。
比如,機器人要把貨物送到指定位置,卻被一陣風吹偏了。它怎麼判斷是自己選錯了方向,還是風太大導致任務失敗?普通世界模型能預測不同動作通常會帶來什麼結果,卻不知道這一次風造成了多大影響。
新方法利用實際結果與原先預測的偏差,估算這次外部干擾的影響,再推算如果當時選擇其他動作,結果會有什麼不同。整個過程只需調用已有預測器兩次,不用額外訓練反事實模型。機器人便可以事後判斷,換個動作是否有機會完成目標。
在四個物理仿真環境中,團隊報告,模型事後找到本可完成目標的動作的比例達到 35%–69%,對照方法只有 14%–23%。即使對照方法知道仿真環境的真實物理規則,只要不知道這次實際發生的干擾,表現仍然落後。
不過,這種方法要求動作和外部干擾的影響大致可以疊加。如果發生碰撞,或者電機故障使不同指令受到的影響不同,預測就可能失準。目前研究仍限於仿真環境,尚未驗證真實機器人的實際控制效果。