动察 Beating AI 快讯,知名 AI 播客主持人 Dwarkesh Patel 大幅提前了对超级智能的预测。几个月前,他还不相信 AI 能进步得这么快,如今却认为,到 2030 年就可能出现超级智能,最快甚至是明年。
AI 最有可能在 2028 年左右追平顶尖人类 AI 研究员,最快几个月内就能做到。一旦 AI 能自主研发更强的 AI,原本需要数年的技术进步,就可能压缩到一年。
METR 最近调查 Anthropic 发现,其模型在部分可量化任务上的能力进步速度约为过去的两倍,其中大部分加速很可能来自 AI 参与研发。Anthropic 自己的数据也显示,今年 2 月,Claude 主导的研发工作还不到 1%,到了 8 月已达到 26%,但仍需要人类监督。
AI 研发中的许多工作都能通过实验验证。比如调整训练算法、优化数据后,可以直接测试模型有没有变强。AI 可以不断提出方案、做实验、检查结果,再继续改进。数学和编程领域已经出现过类似的能力跃升,AI 研发可能也会如此。
一旦达到顶尖研究员水平,AI 还能全天候工作,同时部署大量研究智能体。按 Dwarkesh 的估算,单个 AI 研究员每周完成的工作量可能是人类的 50 倍。不过,实验仍要消耗算力,整体研发速度不会直接提高 50 倍。
如果 AI 研发实现自动化,之后可能出现两种情况:
一种是 AI 不断改进自身,短短几个月就逼近现有芯片所能支持的能力极限;
另一种是先把三到六年的技术进步压缩到一年,再因为算力和实验资源不足而慢下来。
Dwarkesh 给这两种情景各分配了 50% 的主观概率。
目前,AI 还无法完全独立完成前沿研发。找到正确的研究方向,也远比解决有标准答案的题目复杂。如果这部分能力迟迟无法突破,时间表就可能推迟。Dwarkesh 认为,AI 到 2032 年以后才能追平顶尖人类 AI 研究员的可能性仍有 25%。