警告“AI 或灭绝人类”的前 Anthropic 研究员：某种意义上，我曾研究让 AI 取代自己

前 Anthropic 与 OpenAI 研究员雅各布·考克森在纽约市议会听证会上发出警告，指出前沿 AI 实验室的核心目标是实现 AI 研究自动化。他坦言自己在前公司的部分工作本质上就是研究如何让 AI 取代人类研究员的角色。

这一警告凸显了 AI 发展中的对齐与失控风险。当 AI 具备自主开展科学研究的能力时，其技术迭代速度将呈指数级增长，人类可能难以理解或干预其决策过程，从而引发生存级别的危机。

考克森的证词也反映了部分业内人士对前沿模型能力快速提升的深切担忧。随着大模型在复杂任务上的表现日益接近甚至超越人类水平，关于 AI 安全与监管的讨论正变得愈发紧迫，亟需在技术突破与风险控制之间寻找平衡。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。