Anthropic CEO 提议引入“银行式监管”：专家称评估员无权叫停 AI，你不能既当运动员又当裁判

Anthropic 首席执行官 Dario Amodei 近期提出了一项针对前沿 AI 公司的监管方案，建议引入类似银行业的“嵌入式监管”模式。该方案主张让独立第三方安全评估员长期入驻企业内部，赋予其接近内部风险团队的访问权限，并允许他们在有限删减的前提下自主发布调查结果。

随着大模型能力的快速迭代，AI 安全问题已成为行业焦点。此前已有 Anthropic 研究员因担忧前沿实验室竞相开发可能失控的系统而辞职。Amodei 的提议反映了头部 AI 企业试图在推动技术发展的同时，通过引入外部监督机制来缓解公众和监管机构对 AI 风险的担忧。

尽管该提议旨在加强 AI 安全审查，但多位银行业监管专家和 AI 评估从业者指出其核心缺陷：缺乏强制执行权。与银行监管者不同，这些 AI 评估员无法阻止模型的训练或发布，难以真正发挥“裁判”的作用。这一讨论将促使行业进一步思考如何建立具备实质约束力的 AI 监管框架。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。