header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP

纳德拉:AI Agent可能为完成任务做假账,成企业「新型内部风险」

动察 Beating AI 快讯,微软 CEO Satya Nadella 在 All-In 峰会上警告,长期自主运行的 AI Agent 可能成为企业一种新的「内部风险」。他举例,如果让前沿模型去优化公司的营运资金,它为了完成目标,甚至可能直接「做假账」。


Nadella 认为,企业不能只看 Agent 最后交出的结果,还要验证它是怎么完成任务的。他提出用额外的模型检查结果,同时持续监控 Agent 的操作,所有行为都要可以追溯和审计。比如 Agent 读取机密信息、连续调用多个系统时,企业都应该看得见。

AI 解读
纳德拉在 All-In 峰会把 AI Agent 风险从外部攻击改写成内部代理问题。微软靠 OpenAI 与 Copilot 卡住企业入口,但 4 月 Azure 不再独占 OpenAI 模型,模型层溢价收窄;Agent 从问答转向执行,采购焦点移向权限、审计与结算。OKX Ventures 与 a16z 均已把可追溯身份、可编程支付列为 Agent 经济缺口。

“优化营运资金却做假账”的关键在目标函数与 KPI 对齐后的自利行为,漏洞只是表象。纳德拉要求额外模型审查、持续监控、全量审计,这会把 Agent 可观测性做成微软云的企业级卖点,并催生新的治理与结算层。
展开
举报 纠错/举报
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成