微软CEO纳德拉：把AI当内部风险防，随时准备急停

动察 Beating AI 快讯，微软 CEO 萨蒂亚·纳德拉发长文，主张把 AI 模型当作企业内部安全风险管理。模型即使没有恶意，也可能犯错或被攻击者利用。尤其当它能读取敏感数据、替人执行关键操作时，企业不能只信模型厂商的安全承诺。

他要求把模型与调度任务的 Harness（Agent 执行框架）分开。模型能读什么数据、调用什么工具，必须由外部系统控制。每次关键操作都应留下防篡改、方便人类审查的记录。他还要求模型思维链（展示出的推理过程）透明，但承认这些内容未必可靠。

最强硬的一条是，从部署时就假定模型可能遭到入侵，并做好隔离。授权人员必须能在 Agent 执行任务时随时暂停或关闭它，相当于装上「紧急刹车」。模型不能自己审核自己的行为，企业还要持续测试故障和攻击，及时披露事故。

微软本月已宣布 MXC 隔离工具在 Windows 正式可用。它通过外部策略限制 Agent 能访问的文件和网络。