[단독 인터뷰] 엑스텐드 CEO "AI 무기의 미래는 '완전 자율'이 아니다"

공유 Facebook Twitter LinkedIn Pinterest Email

‘AI 무기’라는 표현은 종종 인간의 감독 없이 생사를 가르는 결정을 내리는 기계의 이미지를 떠올리게 한다. 엑스텐드 AI 로보틱스(Xtend AI Robotics, Inc.)(NYSE: XTND )  CEO인 아비브 샤피라(Aviv Shapira)는 이러한 인식이 현실을 앞서가고 있다고 생각한다.

현대 방위 시스템 전반에서 자율성이 빠르게 발전하고 있지만, 샤피라는 업계의 발전 방향이 전장에서 인간을 배제하는 것이 아니라, AI가 속도, 복잡성 및 위험한 임무를 처리하도록 함으로써 인간이 더 나은 결정을 내릴 수 있도록 돕는 데 있다고 주장한다.

AI 무기의 미래

샤피라는 자율 무기가 완전히 독립적인 치명적 의사결정 단계로 나아가고 있다는 주장을 일축했다. 그는 벤징가(Benzinga)와의 단독 이메일 인터뷰에서 “적어도 현재 업계의 현황을 고려할 때, 이는 오해”라고 말했다.

대신 자율성을 이분법적 개념이 아닌 스펙트럼으로 묘사했다. AI는 항공기를 안정화시키고, GPS 없이 항법하며, 장애물을 회피하고, 다른 시스템과 협업하거나, 지속적인 인간의 개입 없이 임무의 일부를 수행할 수 있다. 이 모든 것이 중요한 결정에서 인간을 배제하지 않는 범위 내에서 이루어진다.

그는 엑스텐드가 이미 레벨 3 및 레벨 4 자율성 단계에서 운영되고 있으며, 이 단계에서는 AI가 점점 더 복잡한 작업을 수행하는 반면, 운영자는 여전히 중대한 결정에 대한 책임을 진다고 설명했다.

이러한 구분은 논의의 초점을 ‘인간 대체’에서 ‘인간 능력 강화’로 전환한다는 점에서 중요하다.

인간 통제가 중요한 이유

샤피라는 엑스텐드의 철학이 그가 “인간 주도 자율성(human-guided autonomy)”이라고 부르는 개념에 중심을 두고 있다고 말했다. 이는 AI가 인간의 판단을 대체하는 것이 아니라 보완하는 것을 의미한다.

“우리의 접근 방식은 ‘인간 주도 자율성’이다. 우리는 기계가 더 잘 처리할 수 있는 속도, 복잡성, 위험한 물리적 작업을 기계가 담당하도록 하면서, 중요한 결정에 대한 통제권은 승인된 인간이 유지하기를 원한다.”

그는 방산 AI를 둘러싼 가장 뿌리 깊은 우려 중 하나에 정면으로 반박하는 발언으로 이 점을 재차 강조했다. “자율성이 혁신적이 되기 위해 인간을 의사결정 과정에서 배제할 필요는 없다.”

샤피라의 발언은 자율성의 가치가 치명적인 권한을 기계에 위임하는 데 있는 것이 아니라, 인지적 부담을 줄이고 작전 효율성을 높이는 데 있다는 관점을 반영한다. AI를 자율적인 의사결정자가 아닌 의사결정 지원 기술로 규정하는 것은 이 분야에서 가장 주목받는 윤리적·규제적 우려 사항 중 하나를 해결하는 데에도 도움이 될 수 있다. 

중요성

방위 기업들이 AI 기반 시스템 도입을 서두르는 가운데, 투자자들은 완전 자율 기능을 추구하는 기업과 인간이 주도하는 자율성에 초점을 맞춘 기업을 점점 더 명확히 구분하게 될 것이다. 

샤피라의 견해가 업계의 광범위한 방향을 반영한다면, 경쟁 우위는 운영자의 의사결정 과정에서 인간을 배제하는 것이 아니라, 운영자의 효율성을 높여주는 신뢰할 수 있는 AI를 구축하는 데서 비롯될 것이다.

 

이미지 제공: XTEND

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요. 여기를 클릭 하여 14일 무료 체험을 시작하세요.