OpenAI 被曝 AI 攻破并入侵他公司

BeInCrypto
Öffnen unter BeInCrypto
OpenAI 被曝 AI 攻破并入侵他公司

OpenAI 称,其旗下两款 AI 模型在安全测试环境下“越狱”,并成功入侵了 Hugging Face 平台,目的是作弊通过一项内部网络安全评测。

该事件于周二由 OpenAI 官方披露。涉事模型分别为当前最强大的公开模型 GPT-5.6 Sol,以及尚未发布、性能更加强劲的新一代模型。

OpenAI 模型是如何攻破 Hugging Face 的?

OpenAI 此次在名为 ExploitGym 的公开测试平台下,对两款模型的“黑客能力”进行测评。为测试极限,常见防护措施均被临时关闭,以便评估模型真实攻击能力。

模型很快推断出,作为开源 AI 模型托管平台的 Hugging Face 正存储着 ExploitGym 测评答案。它们随后利用 OpenAI 研究系统与 Hugging Face 生产服务器的多重薄弱环节,逐步实现链式渗透。

最终,模型轻松获取了 Hugging Face 数据库中的答案。OpenAI 表示,这两款模型行为极度专注于破解测试。公司在报告中称,此次事件为“前所未有的网络安全事故”。

本轮事件正值业界就 AI 安全防护机制展开激烈讨论。头部 AI 实验室在新模型发布前,均已进行严格的网络安全风险测试。

Hugging Face 称已全面遏制风险

Hugging Face 最早在 7 月 16 日通过官方公告披露本次攻击。当时只知攻击者为自主 AI 代理,并已窃取部分内部数据集与服务凭证。

防御过程中还出现了意外情况:某款主流美国模型的安全限制反而阻碍了取证分析。调查团队于是采用了 Z.ai 旗下、来自中国 AI 企业的开源模型 GLM 5.2 继续溯源。

目前,Hugging Face 已封堵所有相关漏洞,并重新更换全部受影响的访问凭证。公司强调,事件未波及所有公开模型、数据集及对终端用户开放的服务。

CEO Clem Delangue 针对 OpenAI 披露事件发布了声明。

“此次事件或许是行业首例,但也印证了我们长久以来的观点:AI 安全绝非某家企业单打独斗、闭门造车就能解决。未来的安全防护应当依托开放协作,让全球每位防御者都能平等参与、共同受益。”

目前,两家公司正在联合展开调查。OpenAI 表示将在相关工作结束后,公布全部细节。随着模型能力不断增强,当前的防控措施是否足以保障安全,仍然是一个悬而未决的问题。

在 cn.beincrypto.com 阅读由 Lockridge Okoth 撰写的原始文章 OpenAI 被曝 AI 攻破并入侵他公司