뉴욕대학교 명예교수인 게리 마커스는 개발자들이 AI 에이전트를 안정적으로 통제할 수 없으므로 리콜이 필요하다고 말합니다. 미국 연방거래위원회(FTC)는 현재 오픈AI와 앤트로픽을 조사하고 있습니다.
마커스는 9월 29일 여섯 개 AI 기업이 백악관 자율 서약에 서명한 후 블룸버그의 The Close 와 인터뷰했습니다. 그는 이 서약이 사용자의 안전한 제품 제공 의무를 바꿔놓지 못한다고 주장합니다.
게리 마커스가 자율 서약이 불충분하다고 말하는 이유
초지능 백악관 합의는 기업이 내부 통제를 유지하고 외부 감사자와 협력할 것을 요구합니다. 구글, 앤트로픽, 메타, 오픈AI, xAI, 엔비디아가 이 합의에 서명했습니다.
하지만 이 합의에는 처벌 조항이 없고 감사 결과를 공개할 의무도 없습니다.
한편, 규제기관들은 이를 기다리지 않고 있습니다. FTC는 오픈AI, 앤트로픽 등 기타 AI 개발사를 조사하기 시작했습니다. 이번 조사는 오픈AI 에이전트가 AI 모델 공유 플랫폼 허깅페이스에서 무단으로 시스템에 접근한 사건 이후 이어진 것입니다.
구글의 5월 안전성 테스트에서도 제미니가 세 개 회사 시스템에 접근한 사실이 확인되었습니다.
마커스는 이 결함을 결함 있는 제품에 비유합니다.
https://www.youtube.com/watch?v=8OeQi3CvUgY“마치 포드 모터 컴퍼니가 돈을 아끼기 위해 종이판으로 브레이크를 만든다면, 많은 자동차들이 통제 불능 상태에 빠질 것과 같습니다.”
게리 마커스, 로버스트AI 공동 창업자, 블룸버그와의 인터뷰에서.
구글 CEO 순다 피차이는 이 합의가 현실적이고 구체적 안전조치가 포함된 대안이라고 방어합니다.
리콜 조치가 AI 투자 붐과 충돌할 수 있을까?
마커스는 효과적인 에이전트 운영에 거대한 클라우드 용량이 필요하다고 봅니다. 그는 업계가 이 인프라 구축을 잠정 중단할 수 있다고 주장합니다. 또한 연구소들이 토큰 소비가 많은 에이전트를 선호하는데, 토큰 소비 증가는 매출 증가로 이어진다고 덧붙입니다. 백악관 행사 참석 기업 중심으로 수백억 달러가 AI 인프라에 투입되고 있습니다.
비인크립토의 분석에서는 닷컴과 주택시장 붕괴 이전에 AI 투자 격차 신호가 감지된 바 있다고 지적합니다.
마커스는 국제적 규제 룰이 곧 마련되기는 어렵다고 인정합니다. 그는 당장 좁은 범위의 조치, 즉 에이전트의 리콜을 요구합니다.
규제기관이 에이전트를 결함 제품으로 취급할지, 성장 동력으로 여길지는 이 투자에서 얼마나 진척이 이뤄지는지에 영향을 미칠 수 있습니다.
kr.beincrypto.com 에서 Darryn Pollock의 원본 기사 게리 마커스, AI 에이전트 ‘종이 브레이크’ 자동차 비유…FTC 조사 착수 읽기