谷歌 DeepMind 安全研究员离职，称 AI 五年内造成巨大危害的概率高得吓人

谷歌DeepMind通用人工智能安全团队研究员乔希·恩格尔斯宣布离职，转投独立的AI评估机构METR。他透露曾拒绝OpenAI和Anthropic的邀约，最终选择离开是因为认为先进AI带来的风险已达到不可接受的水平。

恩格尔斯在公开声明中强调，未来五年内AI系统造成巨大危害的概率“高得吓人”。他指出，当前行业的主要趋势是各大企业竞相研发“超级智能”，这种对研发速度的盲目追求加剧了系统失控的潜在风险。

这一事件凸显了AI安全领域内部对技术发展速度的深层担忧。随着大模型和智能体能力的快速跃升，安全研究员从头部企业转向独立评估机构，反映出业界对现有企业内部安全机制能否有效约束前沿模型存在疑虑。

该人事变动可能促使监管机构和公众进一步关注AI安全评估的独立性。独立机构在未来超级智能的研发监督中或将扮演更关键的角色，以平衡商业竞争与公共安全之间的张力。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。