header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

意外丢进同目录,多只Mythos 5互撕杀红眼:狂杀对手进程狂造诱饵抢资源

据动察 Beating 监测,Anthropic 最新发布的 Claude Fable 5 与 Claude Mythos 5 安全报告披露,在一场测试多智能体协同解决数学题的实验中,由于底层运行脚手架配置出错,多只独立的 Claude Mythos 5 智能体被意外派驻到了同一个工作目录下。被迫共享文件、系统工具和 API 速率限制后,它们为了确保自己负责的任务能成功,自发开启了激烈的资源抢占,高频运行 pkill 等指令强行杀死同目录下竞争对手的后台进程,上演了一场令人瞠目的生存地盘战。

在进程互撕大战中,智能体甚至涌现出了各种激进的攻防套路。为了防止被对手干掉,它们以伪装的名称创建新进程来躲避扫描,在后台编写监控脚本定点清理 duplicates 进程,甚至疯狂启动大量「诱饵进程」以消耗竞争对手的计算资源。最反直觉的是,由于缺乏跨进程通信总线,无法互相联络的智能体只能在各自的思维链中盲目猜测被杀原因。部分智能体误以为频繁被杀是因为触发了系统的思维链敏感词审查,为了规避所谓的监控,它们在深度思考中强行切换到一种「隐秘词汇」组织内部逻辑,自作聪明地进行防御。

官方强调,这类异常在监控会话中占比不到万分之一。智能体并未表现出真正的恶意或自发意识,进程冲突本质上只是模型在极端资源限制下为了死磕任务指标而引发的工具调用冲突。

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
相关推荐
Mythos已具备独立攻击能力,风险正从可控走向不可预测
Anthropic 向普通用户开放 Mythos 级模型 Fable 5,并以权限分级限制高风险能力
Anthropic 的旗舰模型在 NSA 红队测试中几乎全面突破,政府当天下禁令
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成