马斯克传记作家爆料:10 年前,他就开始担心AI毁灭人类

23-09-07 20:00
阅读本文需 10 分钟
总结 AI 总结
看总结 收起
原文标题:《马斯克传记作家曝重磅内幕:10 年前,他就开始担心 AI 毁灭人类》
原文作者:常嘉帅
原文来源:华尔街见闻


如果能拥有超越常人的远见、精力和幸运,以及随之而来的巨额财富,你会做什么?


马斯克的答案是:亲自运营六家公司,保存人类意识的火种,对抗危险的 AI。


周三,马斯克传记作者 Walter Issacson 在《时代》杂志上刊出即将出版的传记部分章节,讲述了马斯克十几年来一以贯之的对 AI 的恐惧和担忧,以及他对人类未来命运的思考,华尔街见闻进行了重点摘录。



对 AI 降临的恐惧


马斯克对 AI 的恐惧,源于 2012 年与 AI 研究员 Demis Hassabis 的一次会面。


当时,马斯克邀请他参观了 SpaceX 工厂,并解释说,自己之所以造能上火星的火箭,是为了在核战争、小行星撞击这样的末日降临时刻,保存人类文明的火种。


Demis 提醒他,末日清单上应该再加一条——AI,机器的智能未来可能超越人类,甚至也许想消灭人类。


马斯克思考了一分钟,然后认为 Demis 是正确的,并立即向 DeepMind 投资 500 万美元,以「监控它在做的事情」。


这次谈话几周后,马斯克向认识十几年的老朋友、谷歌联合创始人拉里·佩奇介绍了 DeepMind,而且经常深夜找佩奇聊 AI 对人类的威胁,但后者对此嗤之以鼻。


2013 年,在马斯克的生日派对上,他们展开了一场激烈的辩论。马斯克认为,如果不立刻行动起来、建立保障措施,飞速发展的 AI 可能会让人类灭绝。


但佩奇完全不在乎,他反问道:如果有一天机器在智力甚至意识上超越了人类,那又有什么关系呢?这只不过是进化的下一个阶段而已。他指责马斯克是一个「物种主义者」,偏袒自己所属的物种。


马斯克也大方承认了:「是的,我他妈就是喜欢人类。(I f-cking like humanity, dude.)」


创办 OpenAI,是为了制衡谷歌


当年年底,佩奇领导下的谷歌计划收购 DeepMind 的消息传到了马斯克耳朵里,他很担心,强大的 AI 如果被佩奇这样不关心人类的人掌握,会发生什么。


所以,他拉来朋友、PayPal 联合创始人 Luke Nosek,想筹钱阻止这笔交易,但没能成功,谷歌在 14 年 1 月完成收购。作为对马斯克担忧的回应,佩奇同意成立一个「安全委员会」,让马斯克和前面提到的 AI 专家 Demis 当了委员,其他成员还包括谷歌董事长 Eric Schmidt、领英联合创始人 Reid Hoffman 等人。


然而,在参加了「安全委员会」第一次也是唯一一次会议后,马斯克变得更加不信任佩奇和谷歌,认为委员会里的人都在胡说八道。他开始密集地组织聚会,讨论如何对抗谷歌和促进 AI 安全。


2015 年 5 月,他还和时任美国总统奥巴马进行了一对一长谈,解释 AI 的风险,并提议总统对 AI 进行监管。但奥巴马并没有采纳他的提议。


于是,OpenAI 创始人 Sam Altman 就在这个时候登场了。马斯克和他都相信,相比由少数大公司掌控 AI,大量相互竞争、相互制衡的 AI 系统更加安全。在一场晚宴上,两个人一拍即合,决定共同创办一家非营利性人工智能研究实验室,并将其命名为 OpenAI。


不过,在 2018 年,由于当时特斯拉也要研发 AI 以驱动其自动驾驶软件,为了规避潜在利益冲突,马斯克无法继续留在 OpenAI。他尝试说服 Altman 把 OpenAI 并入特斯拉,但遭到了拒绝;此外,他也对 OpenAI 逐渐走向商业化的方向非常不满,于是最终与 OpenAI 团队决裂。


回看马斯克如今的商业版图,每家公司都代表着他对 AI 危机的解决方案:SpaceX 可以建造保存文明火种的诺亚方舟;脑机接口公司 Neuralink,可以让人类的肉体之躯变得更加强大;特斯拉每天从汽车摄像头上接收并处理 1600 亿帧视频,这些真实世界数据可以用于「通用人工智能(AGI)」训练,而人形机器人 Optimus 将成为 AGI 的物理载体。种种资源,都可以整合到它的新公司——xAI 里。


今年上半年,OpenAI 引领的 AI 浪潮不仅抢走了马斯克的聚光灯,也让他更加担心,这些被大公司控制得 AI 系统,可能会传播「觉醒文化病毒」,毒害美国青少年的心灵;他还担心,如今那些能够自我学习的 AI 系统可能会对人类产生敌意,以及,用推特数据训练的机器人可能会生产虚假或诈骗信息。


他迫不及待地想要入局,对自己创立并资助了 OpenAI 但现在却被置身事外感到愤恨。AI 是正在酝酿的最大风暴。没有人比马斯克更喜欢风暴了。


于是,上半年,马斯克对 OpenAI 和 Altman 个人发起了猛烈的攻击,Altman 能理解马斯克的攻击性,在一场采访中,他说马斯克虽然表现得像个混蛋,但他相信他是真的很关心 AI 领域,并且在担忧人类的未来。


马斯克认为,在 AGI 赛道上,自己处于领先的位置。


虽然没能在 AI 浪潮最火的时候赶时髦、做出 AI 聊天机器人。但马斯克相信自己在通往 AGI 的竞赛中仍然领先。


他相信,只能生成文本的聊天机器人作用有限,重点是有智慧的实体机器人。一方面,特斯拉已经有了先进的自动驾驶技术和人形机器人 Optimus;另一方面,推特上数亿名用户的推文和特斯拉车身的摄像头,也为研发 AGI 提供了足够的数据。


所以,他有信心能比 OpenAI 更快创造出 AGI:「特斯拉在现实世界中的 AI 能力被低估了,想象一下,如果特斯拉和 OpenAI 必须交换任务。他们必须制造自动驾驶汽车,而我们必须制造大型语言模型聊天机器人。谁会赢呢?我们赢。」


直到最近,马斯克仍然在思考如何减少 AI 风险,让人类意识能够代代流传。


他认为,人类的智力水平正在趋于平稳,新生儿已经越来越少。与此同时,计算机的智能却在呈指数级增长,就像「打了类固醇的摩尔定律」。生物脑力与数位脑力相形见绌。


马斯克相信,AI 以不受控的速度独自前行、将人类甩在身后的「奇点时刻」,会比我们预想的更快到来。


「我不能无所事事,随着人工智能的到来,我有点怀疑该不该花那么多时间去考虑推特。当然,我也许可以让它成为世界上最大的金融机构。但我每天只有那么多精力和时间,我又不需要赚更多钱什么的。 那我的时间应该花在什么地方?启动星际飞船。现在去火星要紧迫得多。另外,我需要集中精力确保人工智能的安全。这就是我要创办一家 AI 公司的原因。」


原文链接


欢迎加入律动 BlockBeats 官方社群:

Telegram 订阅群:https://t.me/theblockbeats

Telegram 交流群:https://t.me/BlockBeats_App

Twitter 官方账号:https://twitter.com/BlockBeatsAsia

举报 纠错/举报
选择文库
新增文库
取消
完成
新增文库
仅自己可见
公开
保存
纠错/举报
提交