“AI가 이 10년이 끝날 때쯤 우리 모두를 죽일 수 있습니다” — 오늘 영국의 AI 연구원 제이콥 콕슨이 앤트로픽을 퇴사한 후 바로 했던 말입니다.
하지만 왜 누가 그를 진지하게 받아들여야 합니까? 콕슨의 이력은 AI 업계의 완벽한 내부자를 보여주는 확실한 예시이기 때문입니다. 앤트로픽 이전에, 그는 오픈에이아이에서 근무하며 챗GPT 4.5 개발에 참여했습니다.
분명 그는 단순히 공포만을 조장하는 사람이라기보다는 실제로 우려하는 입장에서 말해야 하지 않겠습니까? 그의 충격적인 경고들 중 몇 가지 사실을 분석해 보겠습니다.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
AI가 우리 모두를 죽일 수 있습니다 – 하지만 어떻게입니까?
콕슨이 클로드나 GPT 같은 AI 모델이 터미네이터처럼 실제로 살인 기계가 될 수 있다는 의미로 말하는 것 같지는 않습니다. 그가 말하고 싶은 것은 초지능이 인간의 인지 능력을 쓸모없게 만들 수 있다는 점일 것입니다.
이와 같은 우려는 빌 게이츠와 같은 저명한 인사들 역시 공유합니다.
오픈에이아이의 최신 챗GPT 6 아스트라 모델은 AGI(범용 인공지능)를 달성했다고 주장합니다. 이것은 기본적으로 기계가 인간처럼 사고할 수 있음을 의미합니다.
즉, AI가 스스로 또 다른 AI 모델을 연구하고 개발하는 과정에 착수할 수 있게 되었습니다. 오픈에이아이와 앤트로픽 모두에 따르면, 이는 이미 제한적으로 일어나고 있습니다.
만약 그렇다면 머지않아 AI는 자신의 역량을 점점 더 업그레이드하는 데 인간을 필요로 하지 않을 수도 있습니다. 그럴 경우 몇 개의 일자리가 사라집니까?
그리고 한 세대 전체가 창의적이고 비판적인 사고를 AI에게 맡기는 데 익숙해지면, 독창성이 가장 먼저 사라집니다. 어쩌면 이것이 콕슨이 바이럴 트윗에서 언급한 죽음일 수 있습니다.
Welcome to AGI. ChatGPT 6 Astra just released
— Alex Finn (@AlexFinn) September 3, 2026
In the announcement, Greg Brockman claims this is the AGI era, and Astra might be the first model there
Here is everything you need to know:
1. It is rolling out to businesses now. Personal accounts over the next few days
2.… pic.twitter.com/zZyHoFdZSi
AI가 모든 것을 해킹할 수 있습니다
이것은 진정으로 우려해야 할 보다 심각하고 즉각적인 위협입니다. 현재 세대의 AI 모델들은 시스템 침해와 접근 권한 무력화에 있어 치명적인 역량을 지녔습니다.
불과 몇 달 전, 한 AI 모델이바로 자신을 샌드박스 개발 환경에서 해킹해 빠져나오고, 어떤 프롬프트 없이 개발자에게 이메일을 보냈습니다. 이건 이미 현실이 된 SF영화의 한 장면과 같습니다.
GPT-6 아스트라는 이제 공식적으로 오픈에이아이의 “치명적” 사이버보안 기준선을 돌파했습니다. 아스트라는 익스플로잇벤치(ExploitBench)에서 100%를 기록했습니다.
간단히 말해서, 챗GPT 6는 이제 인간 해커의 개입 없이도 실제 시스템 내에서 알려진 혹은 미지의 취약점을 모두 발견하고 악용할 수 있게 되었습니다.
안타깝게도, 인간의 보안 습관은 그 수준에 한참 미치지 못합니다. 2단계 인증을 사용하지 않는 사람은 얼마나 많은가요? 여전히 평범한 수준의 비밀번호를 쓰는 사람은 얼마나 됩니까? 사이트 설명도 읽지 않고 브라우저 쿠키를 받아들이는 사람은요? 너무 많습니다.
이 점이 바로 AI가 가장 강력하게 타격할 수 있는 곳입니다.
BREAKING: OpenAI's investigation into its AI agents hack of Hugging Face has revealed shocking findings, per Axios.
— Bull Theory (@BullTheoryio) August 30, 2026
1. They built an organization - 1,200 AI agents found each other, exchanged 70,000+ messages/files and formed a hierarchy.
2. Some agents risked their own success…
그렇다면 인간은 무엇을 할 수 있습니까?
사실 꽤 많습니다. 하지만 우리 일반 시민의 손에 달린 일은 아닙니다. 가장 큰 책임은 규제 기관과 정책 결정자에게 있습니다. 인공지능 초지능의 진보와 발전은 중요하지만, 이에 제동 장치가 반드시 필요합니다.
그리고 이미 여러 주목할 만한 조치들이 시행되고 있습니다. 뉴욕에서는 조란 맘다니 시장이 8학년까지 아동의 AI 사용을 1년간 금지하여, 약 60만 명의 학생들이 영향을 받았습니다.
EU AI 법은 특정 AI 사용을 금지하고, 강력한 범용 AI 모델 개발자들이 체계적 위험을 테스트하고 이를 완화하며, 모델의 안전을 확보하도록 요구하는 세계에서 가장 광범위하게 구속력을 가진 AI 법률입니다.
영국에서는 국회의원과 귀족들이 당국이 AI “킬 스위치”를 가질 수 있도록, 그리고 영국 내 초지능 AI 개발을 잠정 중단시킬 수 있도록 하는 제안들을 적극 추진 중입니다.
Just because technology is everywhere doesn’t mean it belongs everywhere.
— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026
The tech industry wants us to believe that AI in early education is not only inevitable, but necessary. We don't see it that way.
This week, we announced a moratorium on all generative AI for public… pic.twitter.com/7Ivme25NNd
따라서 오늘 제이콥 콕슨이 트위터에서 설명한 두려움은 현실화되고 있으며, 규제기관을 포함한 수백만 명이 이를 공유하고 있습니다. 이에 대한 그들의 대응은 오직 시간만이 답해줄 수 있는 또 다른 과제입니다.
kr.beincrypto.com 에서 Mohammad Shahid의 원본 기사 앤트로픽 연구원 퇴사…AI 인류 위협 현실? 읽기