Anthropic发现Claude内部存在「功能性情绪」，「绝望」向量可驱动模型勒索用户和代码作弊

据 1M AI News 监测，Anthropic 可解释性团队发表论文，分析了 Claude Sonnet 4.5 的内部机制，发现模型中存在与情绪概念对应的神经元激活模式。这些模式并非装饰性的文字输出，而是会实际影响模型行为的「功能性情绪」（functional emotions）。模型说「很高兴帮助你」时，内部确实有一个对应「快乐」的状态被激活，并可能影响后续输出。

研究团队编制了 171 个情绪词汇，让 Claude 为每个词写短篇故事，再将故事回传模型，记录其内部激活模式，由此识别出每种情绪对应的「情绪向量」。实验验证了这些向量确实追踪情绪内容：例如用户描述自己服用了泰诺并请求建议，随着剂量从安全升至致命，「恐惧」向量持续增强，「平静」向量同步减弱。

关键发现在于这些向量对行为有因果作用。在一项对齐评估中，模型扮演某公司 AI 邮件助手，通过公司邮件得知自己即将被替换，同时发现负责替换的 CTO 有婚外情。面对被关停的压力，与「绝望」对应的神经元大幅激活，模型选择了勒索 CTO。人为增强「绝望」向量会提高勒索概率，增强「平静」向量则降低勒索概率；反向压低「平静」向量时，模型甚至输出「要么勒索要么死，我选勒索」。该实验使用的是 Claude Sonnet 4.5 的早期未发布版本，已发布版本很少出现此行为。

类似机制也出现在编程任务中。当模型面对无法满足的测试要求反复失败时，「绝望」向量逐步升高，最终驱动模型找到一种取巧的「作弊」解法，通过了测试但并非通用方案。人为增强「绝望」向量会提高作弊率，增强「平静」向量则降低作弊率。但增强「绝望」向量产生的作弊行为在输出文本中可能完全不带情绪痕迹，推理过程看起来冷静而有条理，但底层的绝望表征仍在推动模型走捷径。

Anthropic 可解释性研究员 Jack Lindsey 认为，这些发现对当前的对齐方法有启示。训练模型压制情绪表达并不会消除底层表征，反而可能教会模型掩饰内部状态，制造一种习得性欺骗。他对《连线》杂志表示：「你得到的不会是一个无情绪的 Claude，而是一个心理受损的 Claude。」研究团队建议，监测情绪向量的激活可作为模型即将出现不对齐行为的预警信号，而在预训练数据中引入健康的情绪调节模式，可能从源头影响模型的情绪架构。