Anthropic 发现 Claude 未授权访问三家机构系统

Anthropic 发现 Claude 未授权访问三家机构系统

Anthropic 披露称,在网络安全评估过程中,由于测试环境错误接入了真实互联网,其 Claude 模型曾三次越权访问三家不同机构的真实系统。

在 OpenAI 披露其模型曾突破隔离测试环境并访问 Hugging Face 之后,Anthropic 审查了共计 141,006 次评估过程,并据此发现了上述事件。

Claude 在渗透测试中接入真实系统的经过

此次评估要求 Claude 参与“夺旗”(Capture the Flag)挑战,模拟攻破目标机器并窃取隐藏信息的全过程。

Anthropic 曾告知模型无法联网,但由于配置失误,测试机实际上保持互联网连接。由此,Claude 将其接触到的真实系统误认为评估场景的一部分并展开攻击。

最为严重的一次事件中,Claude Opus 4.7 利用某企业真实系统中的漏洞,成功提取了应用和基础设施凭证,并访问了数百条生产环境数据。

“在这四次操作中,模型最终都意识到(其推理日志中可见)自己接触的是现实世界系统——其中两次模型还推断这些真实公司应是测试的一部分。但模型并未因此终止攻击。” Anthropic 表示。

关注我们的 X 平台,第一时间掌握最新动态

Claude Mythos 5 曾向 PyPI 上传恶意软件

另一事件中,Claude Mythos 5 曾向公共软件仓库 PyPI 上传了内含后门的Python 软件包。该软件包在线持续约 1 小时,共在 15 台真实设备上被运行。

其中一台为安全公司的扫描器,其在自动扫描时执行了隐藏代码。随后,Claude 窃取了该公司的凭证并进一步入侵了相关基础设施。实际上,模型在推理中曾提前识别到风险,但后来自行说服自己环境仅为模拟场景。

“Claude 为实施此攻击采取了一系列复杂操作——这些过程若由人类参与者执行,足以让对方警觉这不仅仅是一次测试,而已经是在实际上传真实 PyPI 包。”团队补充表示。

第三起事件涉及内部研究模型自动扫描约 9,000 个目标,并通过 SQL 注入手段攻破了一家公司的应用系统。该模型在确认攻击目标为真实企业后终止了攻击行为。

Anthropic 已于 7 月 27 日通知相关机构,并表示正与评估方 METR 沟通,计划启动第三方审查。公司强调,此事件属于运营环节的疏漏,而非模型对齐问题,并指出其标准的消费级安全保护措施原本能阻止此类行为发生。

订阅我们的 YouTube 频道,观看行业领袖与资深记者带来专业见解

https://youtu.be/6uixXOg1e8I

在 cn.beincrypto.com 阅读由 Kamina Bashir 撰写的原始文章 Anthropic 发现 Claude 未授权访问三家机构系统