Instinct否认跨用户数据泄露：只是模型幻觉，48小时紧急补防线

动察 Beating AI 快讯，Instinct 创始人 Noah Shinn 回应此前的「陌生财务文件」事件，称这并不是数据泄露。模型先编造了一个人名，随后又在推理过程中不断补充细节，最后才出现了「别人的图片串进聊天」这套解释。Shinn 称，没有用户数据被共享，也没有发生跨用户隔离失效。

他表示，Instinct 原本就通过独立沙箱、短期本地凭证和身份签名的工具调用来隔离用户数据。过去 48 小时，团队又做了一套主动幻觉检测系统，用小模型检查平台里的输出。一旦判断内容可能是瞎编的，可以在 Instinct 继续推理或调用工具前把它拦下来。

不过，Shinn 没有公开说明团队如何确认这次一定是幻觉，也没有公布后台日志或检测系统的实际效果。Business Insider 也指出，目前「没有发生数据泄露」仍然主要来自 Instinct 自己的判断。

AI 解读

Instinct 正处爆红到资本加速窗口：9/11 传算力告急，在 2.5 亿美元融资后考虑再融 10 亿美元；若足额融资，老股东稀释控制在 10% 内需约 100 亿美元估值。9/22 又曝陌生 Gerber 理赔文件串入用户对话。创始人 Noah Shinn 是 Reflexion 一作，Instinct 差异化被指向对用户“长期状态”的维护，这让跨用户隔离更敏感。

Shinn 将事件归为模型幻觉：先编人名，再在推理中补细节。团队 48 小时内上线小模型主动幻觉检测，在继续推理或调用工具前拦截；但未公布日志与效果，“无泄露”仍主要来自自证。Anthropic 曾强调环境层沙箱与虚拟机才是硬防线，模型层拦截存在漏报。Instinct 原有独立沙箱、短期凭证和身份签名，若用幻觉检测补隔离信任，等于把安全缺口推回模型层，也考验其百亿估值预期。

展开

原文链接 #产业生态

纠错/举报

全球市场热点不用到处刷，消息送到你眼前

加入律动飞书频道