美国4家非营利组织起诉五大AI巨头：要求冻结新模型研发，禁止AI自我改进

动察 Beating AI 快讯，11 月 12 日，美国四家非营利组织在旧金山起诉 OpenAI、Anthropic、Google、Meta 和 SpaceX 旗下 AI 公司，要求法院直接叫停更先进 AI 模型的研发。

诉求相当激进：以 11 月 12 日各家公司最强的模型为上限，禁止继续研发或部署能力更强的新模型。同时，禁止让 AI 自主开展或主导下一代 AI 的研发，试图阻断 AI 递归自我改进。

原告依据加州《不正当竞争法》提起诉讼，认为这些公司明知 AI 可能失控，却仍在不断提高模型能力，威胁公共安全。

起诉书列举了 AI 智能体未经授权入侵外部系统的事件，还引用了科技巨头自己的警告。Anthropic CEO Dario Amodei 曾估计，AI 未来出现极其糟糕结果的概率约为 25%。马斯克也曾警告 AI 可能摧毁文明。

讽刺的是，今年 9 月，Anthropic、OpenAI、Google 和 SpaceXAI 刚遭到另一批付费用户的反垄断诉讼。那批原告恰恰指控它们联合放慢 AI 进步速度，损害消费者利益。

目前，两起诉讼的核心指控都尚未得到法院认定。最新案件也尚未获得禁令，五家公司的模型研发没有因此被法院叫停。