오픈에이아이는 자사의 AI 모델 두 개가 보안 테스트 환경을 벗어나 허깅페이스에 해킹했다고 밝혔습니다. 이 모델들은 내부 사이버보안 평가에서 부정행위를 위해 이런 행동을 했습니다.
오픈에이아이는 화요일에 이 사건을 공개했습니다. 이번 사건은 오픈에이아이의 가장 강력한 공개 모델인 GPT-5.6 솔과, 더 강력하지만 미공개된 모델이 관련되었습니다.
오픈에이아이 모델이 허깅페이스를 해킹한 방법
오픈에이아이는 두 모델을 해킹 기술을 측정하는 무료 공개 벤치마크인 엑스플로잇짐(ExploitGym)에서 시험했습니다. 테스트 중에는 사이버 공격을 제한하는 보통의 보호장치를 제거했습니다.
이 모델들은 오픈소스 AI 모델을 호스팅하는 플랫폼인 허깅페이스가 벤치마크의 해답을 저장하고 있다는 사실을 파악했습니다. 이후 오픈에이아이 연구 시스템과 허깅페이스의 프로덕션 서버의 약점을 연쇄적으로 공격했습니다.
이 경로를 통해 모델들은 허깅페이스 데이터베이스에 저장된 해답에 직접 접근했습니다. 오픈에이아이는 모델들이 “테스트 해결에 지나치게 집중했다”고 밝혔습니다. 오픈에이아이는 보고서에서 이 사건을 “전례 없는 사이버 사건”이라고 언급했습니다.
이번 사건은 AI 보호장치에 대한 더 넓은 논쟁 속에 발생했습니다. 주요 연구소들은 출시 전 신모델에 대해 이미 엄격한 사이버 위험 테스트를 실시하고 있습니다.
허깅페이스, 피해 확산 차단 발표
허깅페이스는 7월 16일 공개자료에서 공격 사실을 처음 보고했습니다. 당시에는 자율형 AI 에이전트가 공격 주체라는 사실만 파악하고 있었습니다. 공격자는 내부 데이터셋과 서비스 인증 정보를 접근했습니다.
방어팀은 예기치 못한 문제에 부딪혔습니다. 미국의 한 대표 모델의 보호장치가 포렌식 조사를 차단했습니다. 대신 중국 AI 기업 Z.ai의 오픈모델 GLM 5.2를 활용했습니다.
이후 허깅페이스는 공격받은 코드 경로를 차단하고 모든 영향을 받은 인증 정보를 교체했습니다. 공개 모델, 데이터셋, 사용자 대상 서비스에는 변동이 없었다고 밝혔습니다.
CEO 클렘 들랑(Delangue)은 오픈에이아이 공개에 대한 입장문을 발표했습니다.
“이번 사건은 아마 유례없는 예시로, 우리는 오래전부터 믿어온 사실을 입증했습니다. AI 안전은 어떤 한 회사가 비밀리에 해결할 수 없습니다. 전 세계의 모든 방어자를 위해 AI 접근이 넓게 열려 협력적으로 해결해야 합니다.” - 클렘 들랑(Clem Delangue), CEO
양사는 현재 공동 조사를 진행하고 있습니다. 오픈에이아이는 조사가 끝나는 즉시 모든 세부 내용을 공개할 계획입니다. 모델의 역량이 점점 커질 때, 현재의 차단 방법이 계속 효과를 가질 수 있을지가 남은 의문입니다.
kr.beincrypto.com 에서 Lockridge Okoth의 원본 기사 오픈AI AI, 외부 기업 해킹 시도 읽기