header-langage
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
扫码下载APP
Partnered With:

Claude Opus5在浏览器场景下几乎免疫提示词注入攻击,129项测试场景中无一被攻破

据 动察 Beating 监测,Anthropic 在 Claude Opus 5 系统卡中披露,该模型在浏览器智能体场景中几乎免疫提示词注入攻击,在 129 项测试场景中无一被攻破。这一突破意义重大,OpenAI 去年 12 月曾公开承认提示注入可能永远无法被完全解决。在安全公司 Gray Swan 的通用提示注入基准测试中,15 次攻击后 Opus 5 的成功率仅为 2.0%,大幅优于前代 Opus 4.8 的 5.5%,也领先于 Mythos 5 的 2.6% 和 Fable 5 的 2.8%。


提示注入被视为 AI 代理面临的最严重安全漏洞——攻击者通过在网页中嵌入隐藏文字等被操纵的输入内容,绕过模型指令执行恶意操作。零攻击率仅在开启 Auto Mode 的 Claude Cowork 等产品中实现。这一成果标志着 AI 代理安全性从「持续修补」迈入「结构性防御」阶段。


点击下方原文链接,加入动察 Beating · 飞书 AI 新闻渠道,7×24 小时不间断监测全球 AI 热点与新闻。

AI 解读
Anthropic 在 Opus 5 系统卡中披露,其模型在浏览器智能体场景下对提示词注入攻击实现了零攻破。这是在不到两个月前,其面向公众开放的 Fable 5 模型“最强安全机制”被华人团队在自主任务场景下迅速破解的背景下实现的。安全战场正从模型外围的分类器,转向智能体与真实世界交互(如浏览器)时的结构性防御。

最关键的细节在于,零攻击率仅在开启 Auto Mode 的 Claude Cowork 等产品中实现。这暗示防御能力的核心并非单纯的模型升级,而是“模型+产品化工作流”的封闭式系统设计。Anthropic 正将最高级别的安全能力,与其旨在将AI变为“可管理执行单元”的Cowork产品深度绑定,安全正从技术特性演变为高端产品的护城河与定价依据。
展开

全球市场热点不用到处刷,消息送到你眼前

加入律动飞书频道
相关推荐
从环境配置到实际用例,Claude2026更新最全盘点
强化自检与多Agent编排,让模型更可信
不是黑客攻击,是 AI 在「认真干活」时自己越界了。
纠错/举报
提交
新增文库
仅自己可见
公开
保存
选择文库
新增文库
取消
完成