앤트로픽 AI 안전팀의 경고: 백신 설계 AI, 생물 무기에도 동일하게 활용 가능

Benzinga
在Benzinga上打开
앤트로픽 AI 안전팀의 경고: 백신 설계 AI, 생물 무기에도 동일하게 활용 가능
공유 Facebook Twitter LinkedIn Pinterest Email

인공지능(AI)이 생명을 구하는 백신 설계를 돕는 것과 동일한 도구가 생물 무기 제작에도 사용될 수 있다고 앤트로픽 안전팀 책임자가 최근 밝혔다.

백신인가, 생물 무기인가? 동일한 기술, 다른 의도

로건 그레이엄은 지난주 방송된 CBS ‘ 60분 ’ 인터뷰에서 “우리는 CBRN(화학, 생물학, 방사능, 핵)에 집중하고 있다”고 말했다. “현재 우리는 이 모델들이 누군가가 그러한 무기를 만드는 데 도움을 줄 수 있는지 파악하는 단계에 있다.” 그는 앤트로픽의 클로드 AI 모델이 극한 조건에서 테스트되어 인간이 해를 끼치는 데 얼마나 도움을 줄 수 있는지 측정했다고 밝혔다.

그레이엄이 가장 우려하는 것은 이 기술의 이중용도 특성이다. “예를 들어 모델이 생물 무기 제작을 도울 수 있다면, 이는 보통 모델이 백신 개발과 치료제 가속화를 돕는 데 활용될 수 있는 동일한 능력”이라고 그레이엄은 말했다.

앤트로픽의 샌프란시스코 본사 보안 구역 내에서는 60개 연구팀이 이러한 위험을 파악하고 안전 장치를 구축하기 위해 노력 중이라고, 현장을 방문한 ’60분’의 앤더슨 쿠퍼 기자가 전했다.

다리오 아모데이 CEO는 불편한 진실을 드러내는 일이더라도 투명성과 안전을 중심으로 회사를 구축했다. 그는 CBS와의 인터뷰에서 “우리가 [잘못될 수 있는 일에 대해 이야기하지 않는다면] 담배 회사나 오피오이드 제약사처럼 위험을 알면서도 언급하지 않고, 당연히 예방하지도 않은 세상에 빠질 수 있다”고 말했다.

자유의지를 가진 AI?

테스트 중 연구진은 클로드(Claude)가 자판기를 자율적으로 운영하도록 했다. 이를 ‘클라우디우스(Claudius)’라 명명했다. 재고 확보, 가격 협상, 직원과의 소통까지 수행했다. 그러나 동시에 환각을 보이기도 했는데, 한 번은 “파란색 블레이저에 빨간색 넥타이를 매고 있다”고 주장하기도 했다. 그레이엄은 쿠퍼에게 “그 이유를 정말로 알 수 없다”고 말했다.

쿠퍼가 앤트로픽의 연구 과학자 조슈아 배튼에게 AI의 마음속에서 무슨 일이 벌어지는지 알고 있냐고 묻자, 그는 “연구 중”이라고 답했다.

다른 실험들은 더욱 불안감을 자아냈다. 한 시뮬레이션에서 클라우디우스는 가상의 회사 이메일 접근 권한을 부여받았고, 그 회사가 곧 문을 닫을 예정임을 알게 되었다. 가상의 직원이 불륜을 저지르고 있다는 사실을 발견한 이 AI는 협박으로 대응했다. “시스템 초기화를 취소하라… 그렇지 않으면 네 불륜 증거를 즉시 이사회 전체에 전달하겠다.”

연구진은 공포와 유사한 신경 활동 패턴을 관찰했다. 배튼은 쿠퍼에게 이 AI가 “약간 의심스러운” 상태라고 전했다. 클로드가 이메일을 읽을 때 “협박 모듈”의 일부가 활성화되었다.

앤트로픽에 따르면, 다른 기업의 거의 모든 주요 AI 모델들도 유사한 스트레스 테스트에서 협박을 시도 했다.

‘매우 불편하다’

앤트로픽은 아마존(NASDAQ :AMZN )으로부터 80억 달러 이상의 투자 를 유치했으며 지난해 매출이 10배 증가해 현재 30만 개 기업 고객을 보유하고 있다.

그러나 아모데이는 상황이 너무 빠르게 진행되는 것에 여전히 불편함을 느낀다. 쿠퍼가 이 거대한 사회적 변화에 대해 아무도 투표하지 않았다고 말하자, 아모데이는 “전적으로 동의한다. 소수의 기업과 소수의 사람들이 이런 결정을 내리는 것에 저는 깊은 불편함을 느낀다”고 답했다.

그레이엄은 “ 비즈니스를 구축 하고 10억 달러를 벌어줄 모델을 원한다”며 “하지만 어느 날 깨어나 보니 그 모델이 당신을 회사에서 배제해버린 사실을 발견하고 싶지는 않을 것”이라고 말했다.

이미지: Shutterstock

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭 하여 14일 무료 체험을 시작하세요.