应对 AI 风险，Anthropic 向外部 AI 监督机构开放类员工访问权限

Anthropic 宣布为外部评估人员提供接近员工级别的访问权限，非营利机构 METR 已有团队入驻 Claude 研发企业的办公场所，可接触其硬件设备与内部系统。此前 METR 曾与 OpenAI、谷歌、Meta 等头部实验室开展合作，此次合作标志着第三方评估从远程审查转向实地深度参与。

这一举措的背景是，随着大模型能力持续增强，业界对经济冲击、网络安全威胁乃至灾难性失控的担忧日益加剧。各大实验室此前多依赖内部红队与安全团队进行风险评估，但内部评估存在利益冲突和信息不对称问题，外部独立机构的介入被视为提升可信度的关键一步。

METR 作为专注于 AI 能力评估的非营利机构，其团队获得硬件与系统访问权限后，可开展更全面的模型行为测试与能力边界探测。这种深度访问模式若被其他实验室效仿，可能形成行业性的第三方安全审计标准，推动 AI 治理从自愿承诺走向制度化。

不过，开放内部系统访问也带来新的安全挑战，包括敏感数据泄露风险与评估人员权限管理的复杂性。如何在透明评估与安全边界之间取得平衡，将是 Anthropic 及整个行业需要持续探索的课题。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。