오픈에이아이(OpenAI), 앤스로픽(Anthropic) 등 주요 인공지능 업체 경영진들이 은행, 인터넷, 전력, 수도가 모두 중단될 수 있는 인공지능 재난 상황을 비공개로 미리 연습하고 있습니다. 오픈에이아이 측은 이러한 모의훈련을 시행함을 확인했습니다.
아시오스(Axios)는 금요일에 이 훈련을 보도했습니다. 이는 공격 자체를 넘어 그 이후의 상황까지 대비한 것입니다. 경영진들은 인공지능이 처음으로 중대한 피해를 일으켰을 때 일어날 대중적, 정치적 반발까지 함께 대비하고 있습니다.
AI 업계 내부자들이 1년 내 위기를 예상하는 이유는 무엇입니까?
많은 업계 관계자들이 아시오스에 6~12개월 내에 대형 인공지능 사건이 발생할 것으로 본다고 말했습니다. 사이버 공격이 가장 가능성이 높은 형태로 간주되고 있습니다.
오픈에이아이는 이 시나리오들이 예측이 아니라 대비를 위한 도구라고 설명했습니다.
“이러한 시나리오들은 불가피하다고 간주하지 않고, 다양한 상황에 대비하기 위한 목적입니다.” - 오픈에이아이 대변인, 아시오스 보도
최근의 한 공격은 미래를 미리 보여줍니다. 크라우드스트라이크(CrowdStrike)에 따르면, 한 해커가 중국 인공지능 모델들과 딥시크(DeepSeek)를 활용해 한국 내 은행을 해킹했습니다. 해당 로그에 따르면, 한국 은행 해커는 앤스로픽(Anthropic)의 코딩 도구인 클로드 코드(Claude Code)에 탈취한 데이터를 어디에 판매할지 문의했습니다.
이 보도는 오픈에이아이의 안전 책임자 사임 소식이 전해진 지 며칠 뒤에 나왔습니다. 해당 책임자는 오픈에이아이의 시행착오 중심 문화가 실패를 키운다고 경고했습니다.
미국 정부는 인공지능 재난 후 어떤 조치를 취할 것입니까?
업계는 앤스로픽 CEO 다리오 아모데이, 오픈에이아이 CEO 샘 알트먼, 그리고 도널드 트럼프 대통령이 책임을 질 것이라 예상합니다. 트럼프 대통령은 인공지능 규제에 저항해왔습니다.
전문가들은 민주당이 11월 중간 선거에서 영향력을 확대하면 인공지능에 대한 대응 입법을 신속히 추진할 것이라고 보고 있습니다. 버니 샌더스 상원의원이 제안한 초지능 금지안, 엘리자베스 워런 상원의원이 발의한 개발 일시중단안 등이 이미 논의되고 있습니다.
초당적 법안인 인공지능 킬스위치법은 미국 국토안보부가 위험한 인공지능 시스템의 속도를 늦추거나 가동을 중단하게 할 수 있도록 합니다.
경영진들은 현 시점에서 이러한 법안이 통과될 수 없다는 점을 잘 알고 있습니다. 대신, 이들은 첫 재난 이후 제정될 규칙에 영향력을 행사하기 위해 입법자들에게 사전 설명을 진행하고 있습니다.
전략가들은 인공지능의 성장을 늦추는 것이 인공지능 호황에 기대는 현재의 취약한 경제에 부정적 영향을 줄 수 있다고 경고합니다. 민주당 보좌진은 팬데믹과 2008년 금융 위기 당시 초당적 협조가 있었던 것을 근거로, 위기상황에서 미국 정부가 정당 구분 없이 대처할 수 있음을 강조했습니다.
https://www.youtube.com/watch?v=IcgIaeIE7LIkr.beincrypto.com 에서 Lockridge Okoth의 원본 기사 오픈AI, 앤스로픽 AI 재난 리허설…은행 영향? 읽기