트럼프, AI 안전 책임 빅테크에…AI 합의 내부

BeInCrypto
Open on BeInCrypto
트럼프, AI 안전 책임 빅테크에…AI 합의 내부

도널드 트럼프 대통령과 여섯 명의 기술 업계 리더가 화요일 자율적인 AI 협약에 서명했습니다. 이들은 기업들이 스스로 AI 시스템을 통제하도록 요청하였으며, 트럼프 대통령은 연방 규제 장치 도입 요구를 거부했습니다.

트럼프 대통령은 이 1페이지 문서를 트루스 소셜에 게시했습니다. 데이터 센터에 대한 반발이 커지고 있으며, 사용자 대신 행동하는 소프트웨어인 AI 에이전트가 여러 주요 사건에서 통제를 벗어난 적이 있습니다.

AI 협약이 기술 기업에 요구하는 사항

이 협약은 네 단계의 감독을 쌓는다고 로이터가 보도했습니다. 기업들은 우선, 모델의 학습부터 공개까지의 행동을 내부적으로 통제하는 장치를 구축해야 합니다. 해킹 및 생물학적, 화학적 위험도 특별히 언급되었습니다. 내부 팀이 해당 통제 시스템이 제대로 작동하는지 검증합니다.

그 이후 각 기업은 외부 감사를 위해 독립된 감사기관과 협력해야 합니다. 독립 이사회 위원회가 감사인과 내부 통제 팀의 결과를 모두 검토합니다.

AP는 트럼프 대통령이 앤트로픽의 다리오 아모데이, 구글의 순다르 피차이, 메타의 마크 저커버그, 오픈AI 사장 그렉 브록만, 엔비디아의 젠슨 후앙, xAI 창립자 일론 머스크와 함께 서명했다고 보도했습니다.

AI 협약에 서명한 모든 인물들입니다. AI 협약에 서명한 모든 인물들입니다. 이미지 출처: 트루스 소셜

“참여 기업들은 시스템의 안전성을 높이기 위한 기준과 모범 사례를 마련하기 위해 정기적으로 만날 것입니다.”

화이트하우스 협약, 로이터 인용.

AI 협약의 실효성이 제한적일 수 있는 이유

그러나 이 서약은 자율적입니다. 협약 내용은 이 절차들을 법으로 규정하는 것이 시간이 지나면 의미가 있을 수 있다고 밝히고 있습니다. 트럼프 대통령은 이 약속이 도덕적으로 구속력을 가진다고 언급하며, 법이 아니라 평판에 의존한다고 시사했습니다.

지금까지 보도된 내용에서는 감사인을 누가 선정하는지, 어떤 기준을 적용하는지, 통제가 실패할 경우 어떻게 되는지 언급되어 있지 않습니다. 트럼프 대통령은 며칠 내로 감독관을 지정할 것이라고 밝혔으며, 약 10명의 위원회 구성을 제안했습니다.

트럼프 대통령은 이달 초 AI 규제 요구를 일축했으며, 화요일 AI를 중국과의 경쟁이라고 규정하며 2등은 있을 수 없다고 밝혔습니다.

현재 업계는 AI 속도 저하 논쟁에서 의견이 엇갈리고 있습니다. 이달 초 에세이에서 속도 저하를 촉구한 아모데이 대표는, 이 기술이 실질적인 위험을 가지고 있다고 언급하며, 이에 대한 대응책이 여전히 논의되고 있다고 밝혔습니다.

We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.

Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…

— Dario Amodei (@DarioAmodei) September 12, 2026

한편, 하원의장 마이크 존슨은 AI 안전의 책임이 개발자에 있다고 주장했습니다.

따라서, 다음 시험대가 며칠 내로 다가올 수 있습니다. 트럼프 대통령의 감독관 지명과 약속한 위원회 구성이 이 협약이 외부의 집행력을 가져올지 여부를 보여줄 수 있습니다.

kr.beincrypto.com 에서 Darryn Pollock의 원본 기사 트럼프, AI 안전 책임 빅테크에…AI 합의 내부 읽기