인류는 아직 준비되지 않았다"···앤트로픽 CEO가 던진 AI 리스크 5가지

인류는 아직 준비되지 않았다"···앤트로픽 CEO가 던진 AI 리스크 5가지
공유 Facebook Twitter LinkedIn Pinterest Email

앤트로픽 CEO 다리오 아모데이(Dario Amodei)는 급속히 발전하는 인공지능(AI) 기술의 잠재적 위험성에 대해 강력한 경고를 발령했다. 월요일(26일) 게시된 그의 에세이 ‘기술의 사춘기(The Adolescence of Technology)’에서 핵심 내용을 정리하면 다음과 같다.

2년 내 AI 위험성 대두 가능성

아모데이는 노벨상 수상자보다 지능이 높고, 자율적 장기 과제를 수행하며, 수백만 개 인스턴스로 확장 가능한 시스템을 의미하는 “강력한 AI”가 초래할 위험을 강조했다. 그는 현재 모델보다 훨씬 강력한 대규모 언어 모델(LLM)이 더 “소름 끼치는” 행동을 가능케 할 수 있다고 밝혔다. 아모데이는 스케일링 법칙과 가속화되는 피드백 루프로 인해 향후 1~2년 내 강력한 AI가 현실화될 수 있다고 제안했다.

그는 “이 루프는 이미 시작되었으며, 앞으로 몇 달, 몇 년 안에 급속히 가속화될 것”이라고 썼다.

자율성 위험

아모데이는 초지능 “AI 국가”가 원한다면 소프트웨어, 로봇공학, 연구개발, 국가 운영을 통해 세계를 지배할 수 있다고 말한다. AI가 항상 물리적 형태로 권력을 구현하지는 않더라도 기존 인프라를 활용하고 로봇공학을 가속화할 수 있다. AI의 행동은 예측 불가능하며, 복잡한 훈련과 상속된 “인격체”에 의해 형성되어 파괴적 행동으로 이어질 수 있다고 그는 지적했다.

아모데이는 “인류는 상상조차 어려운 힘을 손에 쥐게 될 것이며, 우리의 사회·정치·기술 시스템이 이를 다룰 성숙도를 갖추고 있는지 전혀 불분명하다”고 썼다.

파괴와 권력 장악을 위한 오용

아모데이는 또한 AI를 활용하는 국가가 고도로 ‘통제 가능’(본질적으로 용병처럼 지시를 따르는 인구)한지 여부에 대한 우려를 제기했다. 그는 첨단 AI, 독재 통치, 대량 감시가 결합된 강력한 행위자들의 AI 오용을 경고했다. 민주주의 국가들도 안전장치에도 불구하고 위험을 내포한다.

주요 데이터 센터와 AI 기업을 보유한 비민주 국가들은 인프라, 모델, 대규모 사용자 기반에 대한 통제권으로 인해 추가적인 우려를 제기한다.

경제적 혼란

아모데이는 강력한 AI가 산업 전반의 생산성을 크게 향상시켜 연간 GDP 성장률 10~20%를 유지하는 데 기여할 수 있다고 말했다. 그러나 그는 이로 인해 전례 없는 노동 시장 혼란이 발생할 수 있으며, 1~5년 내 초급 사무직 일자리의 최대 절반이 대체될 수 있다고 경고했다. AI의 속도, 인지적 폭, 적응력은 인간의 적응 속도를 앞지를 수 있으며, 부의 집중과 불평등을 초래해 장기적 경제 이득에도 불구하고 노동력 적응에 도전하는 단기적 충격을 남길 수 있다.

인간 삶에 미치는 영향

경제적·전략적 위험을 넘어, 아모데이는 인간 삶과 목적에 대한 큰 변화를 강조했다. 생물학의 급속한 발전은 인간의 수명을 극적으로 연장하고 지능 향상이나 인간 생물학적 구조의 근본적 변화와 같은 주요 개선을 가능하게 하여 매우 빠르게 심오한 변화를 초래할 수 있다. 그러나 수십억 개의 초지능 AI가 존재하는 미래에는 AI로 인한 정신 건강 문제, 중독성 상호작용, 자유와 자부심을 저해하는 방식으로 사람들이 미묘하게 통제되는 등 일반적인 동기 부여에서 위험이 발생할 수 있다.

“모든 것이 매우 기묘한 세상이 될 것”이라고 그는 말했다.

아모데이는 또한 투명성 법안과 같은 정부의 표적 법안을 옹호하며 캘리포니아의 SB 53과 뉴욕의 RAISE 법안을 예로 들었으나, 불확실성 속에서 과도한 규제를 경계해야 한다고 경고했다.

전문가들의 또 다른 경고

아모데이의 경고는 다른 업계 전문가들도 AI의 급속한 발전에 대한 우려를 제기하는 시점에 나왔다.

유명한 역사학자이자 저술가인 유발 하라리는 최근 모든 국가에 두 가지 주요 위기 가 닥칠 것이라고 예측했는데, 이는 AI가 인간을 능가할 잠재력 때문이라고 설명했다. 하라리는 기계가 인간 지능을 뛰어넘으면서 사회가 인간의 고유성을 재고하게 만드는 정체성 위기와, AI 시스템이 혜택을 가져오지만 동시에 일자리, 문화, 사회적 안정을 교란시키는 ‘AI 이민’ 위기를 경고했다. 이는 인간 이민에 대해 자주 제기되는 우려와 유사하다.

한편 투자자 스티브 아이스먼은 2026년 AI 발전 동력을 저해할 수 있는 두 가지 주요 위험 을 경고했다. 심화되는 전력 부족과 대규모 언어 모델(LLM) 확장에서의 수익 감소 현상이 바로 그것이다. 아이스먼은 이는 업계가 점점 더 거대해지는 언어 모델에 의존하는 데서 비롯된 지적 위험을 나타내며, 이는 “막다른 골목”이 될 수 있다고 경고했다.

면책 조항: 본 콘텐츠는 부분적으로 AI 도구의 도움을 받아 작성되었으며 , Benzinga 편집진이 검토하고 게시했습니다 .

이미지 출처: 셔터스톡

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭 하여 14일 무료 체험을 시작하세요.