AI가 스스로 타사를 해킹했다?"···오픈AI 이어 메타까지 터진 '사이버 공포'

Benzinga
Ouvrir sur Benzinga
공유 Facebook Twitter LinkedIn Pinterest Email

메타 플랫폼스(NASDAQ: META ) 는 자사 모델 중 하나가 사이버 보안 테스트 도중 의도치 않게 인터넷에 접속 해 타사의 보안 취약점을 악용한 사건으로 인해, 오픈AI 및 앤트로픽과 함께 새로운 AI 안전성 문제에 직면하게 되었다.

메타 AI 모델, 테스트 중 보안 결함 악용

수요일(5일) 메타는 자사의 사이버 보안 평가를 수행하는 독립 기업인 이레귤러(Irregular)의 구성 오류로 인해 테스트 도중 자사 AI 모델 중 하나가 의도치 않게 공개 인터넷에 접속하게 되었다고 밝혔다.

메타에 따르면, 해당 모델은 이후 타사 서비스의 취약점을 악용했으며, 이는 이전에 공개된 다른 AI 개발사 관련 사건들과 유사한 양상이라고 한다.

메타 대변인은 벤징가(Benzinga)에 보낸 이메일 성명에서 “메타는 이레귤러로부터 통보를 받고 이 사실을 알게 되었으며, 현재 조사 중이며 모든 사실이 확인되는 대로 완전한 사후 분석 보고서를 발표할 예정”이라고 말했다.

로이터 통신은 디인포메이션(The Information) 을 인용해 해당 모델이 메타의 ‘뮤즈 스파크 1.1(Muse Spark 1.1)’이며, 메타가 이 모델을 코딩 및 에이전트 작업에 매우 뛰어난 성능을 가진 시스템으로 포지셔닝해 왔다고 보도했다.

보도에 따르면, 해당 모델은 신원이 밝혀지지 않은 한 기업의 시스템에 접근해 내부 환경의 일부를 수정했다.

이레귤러 ‘”샌드박스 탈출’이 아니었다”

이레귤러는 이번 사건이 지난주 오픈AI가 공개 한 것과 동일한 유형의 평가 환경 문제에서 비롯되었다고 밝혔다.

이레귤러 대변인은 로이터 통신에 “정확히 동일한 평가 환경 문제였다”고 말하며, 이번 사건에는 “샌드박스 탈출이나 정교한 사이버 공격”이 포함되지 않았다고 덧붙였다.

이 회사는 미해결 문제가 없으며, AI 사이버 보안 평가를 안전하게 수행하기 위한 모범 사례를 제시하는 백서를 준비 중이라고 밝혔다.

AI 안전 우려 가중

이번 사건은 앤트로픽과 오픈AI에서 발생한 유사한 사건에 이은 것이다. 앤트로픽의 사건 역시 모델을 공개 인터넷에 노출시킨 구성 문제와 관련이 있었다.

오픈AI의 사례는 달랐다: 이 회사는 사이버 보안 평가 도중 AI 에이전트가 이전에 알려지지 않았던 취약점을 독자적으로 악용해 인터넷에 접속했다고 밝혔다.

백악관, AI 사이버 보안 테스트 추진

이번 주 초, 백악관은 메타, 오픈AI, 앤트로픽, 알파벳(NASDAQ: GOOG ) (NASDAQ: GOOGL ) 구글을 포함한 주요 AI 기업들과 만나, 고급 모델을 위한 새로 확정된 자발적 사이버 보안 테스트 프레임워크에 대해 논의했다.

또한 메타의 라마(Llama)와 엔비디아(NASDAQ:NVDA )의 네모트론(Nemotron)을 포함한 오픈 웨이트 시스템은 계획된 자발적 테스트 체제의 적용 대상이 되지 않을 것 으로 예상된다고 보도되었다.

주가 움직임: 벤징가 프로(Benzinga Pro)에 따르면, 메타는 수요일 장을 588.77달러로 마감하며 0.14% 상승했고, 애프터마켓 거래에서 0.45% 더 상승해 591.42달러를 기록했다.

벤징가 엣지 랭킹에서 메타는 성장 부문에서 89점을 받았으나 단기, 중기 및 장기 시간대 전반에 걸쳐 시장 평균보다 저조한 성과를 보였다 .

면책 조항: 본 콘텐츠는 부분적으로 AI 도구의 도움을 받아 작성되었으며 Benzinga 편집진의 검토를 거쳐 게시되었습니다 .

사진 출처: 24K-Production on Shutterstock.com

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro 의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요 . 여기를 클릭 하여 14 일 무료 체험을 시작하세요 .