이더리움 공동 창립자인 비탈릭 부테린은 문샷 AI가 새로운 '키미 K3.1 프로' 모델에서 최상위 해킹 기술을 제거하기로 한 결정을 지지했습니다. 그의 관점에서는, AI가 할 수 있는 일을 제한하는 것이 누가 사용할 수 있는지를 제한하는 것보다 낫다고 생각합니다.
하지만 이러한 안전장치는 눈에 띄는 비용을 수반합니다. 문샷은 필터링된 모델이 내부 익스플로잇 벤치마크의 81%의 작업을 해결했다고 밝혔습니다. 반면, 필터링되지 않은 버전은 90.5%를 해결했습니다.
비탈릭 부테린이 사용자 확인보다 AI 제한을 선호하는 이유
부테린은 자신의 입장을 밝혔습니다. 그는 사용 사례를 차별하는 것이 사용자 자체를 차별하는 것보다 훨씬 덜 해롭다고 주장했습니다.
I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data.
— vitalik.eth (@VitalikButerin) October 26, 2026
Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…
베이징에 본사를 둔 AI 스타트업 문샷은 해당 모델의 오픈 웨이트를 11월 4일까지 공개할 계획입니다. 이후 누구나 이를 다운로드하여 자신의 하드웨어에서 실행할 수 있습니다.
이러한 이유로, 회사는 밝혔듯이 학습 데이터와 강화 학습 환경에서 사이버 관련 데이터를 삭제했다고 설명했습니다. 일반적인 코딩 작업은 그대로 남겨두었습니다.
비탈릭 부테린에 따르면, AI 기반 공격은 결국 본격적으로 발생할 것이라고 합니다. 그때까지 개발자들은 시스템을 강화하고, 기존 코드를 점검하며, 새로운 소프트웨어를 검증할 시간이 필요합니다.
이러한 위협은 이미 나타나고 있습니다. 올해 초, 바이낸스 리서치는 AI가 스마트 컨트랙트의 취약점을 악용하는 능력이 결함을 탐지하는 것보다 약 두 배 더 뛰어나다고 밝혔습니다.
유튜브 채널을 구독하시면 리더와 언론인의 전문가 인사이트를 시청하실 수 있습니다
https://www.youtube.com/watch?v=PqnAlVdpZO8&t=243sAI 리스크의 첫 번째 물결이 잘못될 경우 무엇이 일어나는가
부테린은 또 다른 가능성에 대해서도 경고했습니다. 만약 이 첫 번째 물결이 실패한다면, 모델이 잠기고, 모든 과정에 고객 신원확인(KYC)이 도입되며, 침해성 감시가 시행될 것으로 전망했습니다.
이러한 상황에서는, AI 접근 권한이 자격 증명이나 국적에 따라 결정될 수 있습니다. 그 결과 일부 사람들은 2등급, 3등급, 4등급 사용자로 전락하게 된다고 그는 언급했습니다.
비탈릭 부테린은 로컬 AI 노트북 테스트에서도 나타났듯이, 자신의 하드웨어에서 오픈 AI 모델을 직접 실행하는 것을 오래 전부터 선호해왔습니다.
하지만 그는 이러한 필터링이 영구적으로 유지될 것이라고는 기대하지 않습니다. 한 사용자가 다른 연구소들도 결국 해당 기술을 개발할 것인지 물었을 때, 부테린은 그렇다고 답했습니다.
실제로, 문샷의 자체 집계에 따르면, 딥시크의 경쟁 오픈 모델 V4.1-플래시는 이미 동일한 벤치마크에서 85.7%를 기록했습니다.
비탈릭 부테린에게 AI 안전은 이제 영구적인 차단이 아닌, 시간과의 경쟁이 되었습니다. 이 경쟁은, 공격자가 따라잡기 전에 그가 제안한 중복 암호화폐 보안장치를 도입하는 방어자에게 유리하게 작용합니다.
kr.beincrypto.com 에서 Phil Haunhorst의 원본 기사 비탈릭 부테린, 해킹 능력 제한 AI 지지 읽기