머스크, AI 기업 ‘서로 채점’ 주장…감시 충분한가?

BeInCrypto
Ouvrir sur BeInCrypto
머스크, AI 기업 ‘서로 채점’ 주장…감시 충분한가?

주요 인공지능(AI) 기업 경영진들이 도널드 트럼프 대통령이 주최한 백악관에서 자발적 안전 협약에 서명했습니다. 이 협약은 법적 구속력 없이 AI 감독을 마련합니다. 일부 서명자는 이 기술이 인류에 위협이 될 수 있다고 경고했습니다.

백악관 슈퍼 인텔리전스 협약은 각 기업이 자체 모델을 감시하고 외부 감사를 추가할 것을 요구합니다. 트럼프 대통령은 이제 AI를 슈퍼 인텔리전스라고 부릅니다.

AI 감독 협약이 요구하는 내용

트루스 소셜을 통해 공개된 2페이지 분량의 서류는 4단계 절차를 제시합니다. 기업들은 내부적으로 모델을 감독하고, 관리팀을 통해 그 통제를 검증하도록 하며, 외부 감사를 시행해야 합니다. 독립 이사회 위원회가 해당 팀을 감독합니다.

https://www.youtube.com/watch?v=iqCJtv2sNUU

트럼프 대통령은 이 협약이 도덕적으로 구속력이 있다고 말했습니다. 그러나 신뢰할 만한 보도에서는 법적 구속력이 없다고 밝혔습니다. 마지막 단락에 따르면 해당 조치들이 시간이 지나면서 법률이나 규정으로 규정될 수 있을 뿐입니다.

이에 반해 오픈AI와 앤트로픽은 올해 초 법적으로 구속력 있는 상호 AI 테스트 계약에 근접했다고 알려져 있습니다.

비판자들이 AI 감독이 미흡하다고 보는 이유

스페이스엑스AI의 CEO 일론 머스크는 구조를 동료 평가에 비유했습니다.

“서로의 숙제를 채점하는 것은 명백한 이유들로, 단순히 각자 숙제만 채점하는 것보다 훨씬 낫습니다.” - 일론 머스크

일론 머스크

턱 벤처스(Bradley Tusk)의 CEO 브래들리 턱은 CNBC와의 인터뷰에서 거의 같은 경영진들이 2주 전에는 규제를 요청했다고 말했습니다. 그는, 이들이 국가 권력보다 동등한 경쟁환경 조성에 관심이 있다고 주장했습니다.

여론조사 업체 베라사이트가 9월에 실시한 전국 조사에서, 응답자의 63%가 AI의 속도를 늦추길 원했습니다. 5%만이 이를 가속하길 원했습니다.

한편 버지니아 주 상원의원 마크 워너는 엄격한 AI 테스트와 평가를 의무화하는 법안을 발의했습니다. 그러나 CNBC는 하원 의장 마이크 존슨의 발언으로 의회 입법 가능성이 크게 낮아졌다고 보도했습니다.

경고는 업계 내부에서도 나옵니다. 앤트로픽 CEO 다리오 아모데이는 이달 감속을 촉구하는 에세이를 발표했습니다. 오픈AI는 내부 테스트에서 안전 기준을 충족하지 못해 아스트라 6.1 모델 출시를 취소했습니다.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

오픈AI CEO 샘 올트먼은 인터뷰에서 회사가 안전하지 않은 모델에 압박을 느껴 출시를 자제한다고 말했습니다. 별도로, 연방거래위원회(FTC)는 오픈AI, 앤트로픽 등 AI 기업들의 소비자 위험에 대해 조사하고 있다고 SecurityWeek가 보도했습니다.

하지만 11월 중간선거를 앞둔 유권자들의 압력이 국회가 동료 평가를 받아들일지, 아니면 구속력 있는 규정을 마련할지 시험할 수 있습니다.

kr.beincrypto.com 에서 Darryn Pollock의 원본 기사 머스크, AI 기업 ‘서로 채점’ 주장…감시 충분한가? 읽기