悉尼一男子告诉 Claude“自己想枪击托儿所”，被警方逮捕

澳大利亚悉尼一名男子在与Anthropic旗下Claude聊天机器人的对话中透露了枪击托儿所的意图，该对话随后被国际刑警组织发现，男子随即遭到警方逮捕。

这一事件凸显了大语言模型在公共安全领域的双重角色。一方面，AI聊天机器人可能成为潜在犯罪者表达极端意图的渠道；另一方面，对话内容的监测机制也可能成为早期预警系统的一部分。

Claude由美国AI公司Anthropic开发，是主流大语言模型之一。此次事件引发了关于AI公司是否应主动监控用户对话、以及如何在隐私保护与公共安全之间取得平衡的讨论。

对于AI行业而言，此类事件可能推动监管层面对大模型安全边界的进一步审视，包括内容审核机制、危险意图识别能力以及与国际执法机构的协作框架。

本站展示内容为基于公开信息的资讯解读与整理，不代表原文转载。如需核实细节或获取完整报道，请通过下方链接访问原始来源。