据 1M AI News 监测,Anthropic 宣布成立 The Anthropic Institute(Anthropic 研究院),由联合创始人 Jack Clark 出任新设的公益负责人(Head of Public Benefit)领导,旨在向外界公开 Anthropic 在构建前沿 AI 系统过程中所了解到的风险与挑战。研究院整合了 Anthropic 三个现有团队:负责对 AI 系统进行极限压力测试的前沿红队(Frontier Red Team)、研究 AI 实际使用方式的社会影响团队(Societal Impacts),以及追踪 AI 对就业和宏观经济影响的经济研究团队(Economic Research),同时正在组建 AI 进展预测和 AI 与法律体系交互的新研究方向。
研究院的核心定位是利用只有前沿 AI 构建者才拥有的信息优势,坦诚报告技术前景,同时与面临岗位替代风险的行业和社区建立双向沟通。Clark 在公告中判断,未来两年将出现「远比现在更剧烈的 AI 进展」,社会需要尽快应对就业重塑、社会韧性、AI 价值观设定和递归自我改进治理等重大问题。
研究院的创始成员包括:前 Google DeepMind 研究高级总监、普林斯顿教授 Matt Botvinick(负责 AI 与法治方向);弗吉尼亚大学经济学教授 Anton Korinek(研究变革性 AI 对经济活动本质的重塑);前 OpenAI 社会经济影响研究员 Zoë Hitzig(连接经济学研究与模型训练)。Anthropic 同步扩充公共政策团队,将于今年春季在华盛顿开设首个办公室。
查看最新数据