OpenAI首席科学家警告AI发展过快，称现在需要「极度谨慎」

动察 Beating AI 快讯，OpenAI 首席科学家雅库布·帕乔茨基（Jakub Pachocki）警告，人工智能发展速度过快，正变得越来越难以被人类理解和控制，「现在需要极度谨慎」。

他指出，AI 模型已能操作电脑、与人类及其他 AI 协作并开展研究，未来不久还可能在无需人类干预的情况下实现「递归式自我改进」。帕乔茨基表示，他担心没有人为机器智能持续快速提升可能带来的后果做好准备。

开发者可以让 AI 更符合人类利益，也可以在必要时放慢未来研发速度。他预计并希望，在行业建立共同安全标准之前，AI 实验室「自愿放缓」研发将成为常态。目前 OpenAI 已因 GPT-6 Astra 具备先进网络安全能力而采取有限发布方式。