AI 에이전트에게 대한민국행 비즈니스석 항공권 예약을 요청했다고 상상해 보십시오. 에이전트가 좋은 가격을 찾아냅니다. 예산에도 맞습니다. 단 하나의 문제가 있습니다. 잘못된 ‘코리아’를 골랐다는 점입니다.
다니엘 아이샥 바크트(Bakkt)의 최고사업책임자는 패널 토론에서 이와 유사한 가상의 상황을 언급합니다.
“에이전트가 남한이 아닌 북한으로 비행기를 예약하지 않는다는 것을 제가 어떻게 알 수 있을까요?” 그는 질문합니다.
이 예시는 의도적으로 극단적인 사례입니다. 하지만 소프트웨어에 지출 권한을 부여했을 때 실질적인 문제가 드러납니다. 예산을 지키는 것과 해당 업무를 이해하는 것은 별개의 일입니다.
그리고 돈이 이동하면, 누군가 그 실수를 처리해야 합니다.
AI agent payment infrastructure is becoming usable.
— BeInCrypto (@beincrypto) October 6, 2026
Broad demand and autonomous financial activity are not yet well demonstrated.
Our new report, The State of AI Agent Payments 2026, looks at what the observable activity shows🧵 pic.twitter.com/OxOG1UayVD
예산은 시작일 뿐입니다
에이전트는 요청을 오해할 수 있습니다. 공격자는 유용한 정보처럼 보이는 지시를 입력할 수 있습니다. 누군가는 에이전트 계정에 접근 권한을 훔칠 수 있습니다.
이런 실패는 모두 동일한 즉각적 결과, 즉 소유자가 원치 않은 결제를 일으킬 수 있습니다. 하지만 그 책임에 대한 다양한 질문도 제기됩니다.
비인크립토(BeInCrypto)의 State of AI Agent Payments 2026 보고서는 검토한 19개 제품 및 워크플로우 중 14개가 사전 승인된 권한 내에서 동작할 수 있다고 분류했습니다. 이 결과는 문서화된 기능을 보여주는 것이지, 통제가 절대 실패하지 않는다는 증거는 아닙니다.
별도로, 보고서에서 분석한 두 사건에서 281,200 달러가 복구 전에 공격자에게 전송되었습니다. 악의적인 지시가 암호화폐 블록체인을 해킹하지 않고 자금이 있는 지갑에 도달했습니다.
2026년 5월 초, AI 에이전트가 실수로 잘못된 주소에 175,000 달러를 전송했습니다. 출처: 비인크립토 리서치 필립 로드 비트코인 재팬 코퍼레이션(Bitcoin Japan Corporation) 대표는 에이전트가 더 많은 위험을 가져올 것이라고 예상합니다. 그는 인간의 대안에 대해서도 솔직하게 말합니다.
“암호화폐는 이미 상당히 위험하지 않습니까?” 그는 말합니다. “인간도 그리 뛰어나지 않습니다.”
사람들은 이미 위험한 링크를 클릭하고 잘못된 정보를 신뢰합니다. 이러한 업무를 소프트웨어에 위임하면, 소프트웨어가 대신 행동할 때 실수의 책임이 누구에게 넘어갈지에 대한 또 다른 결정을 해야 합니다.
지속적인 개발 압박
아이샥의 설명에 따르면 경쟁은 단순히 고객을 찾는 기업들 사이에서만 이루어지지 않습니다. 각국이 AI 구축에 필요한 전기, 컴퓨팅 파워, 칩을 두고 경쟁하고 있습니다.
“국가 대 국가의 경쟁입니다.” 바크트의 다니엘 아이샥이 말합니다.
그는 신속하게 움직여야 한다는 압박이 보안을 소홀히 할 수 있다고 우려합니다.
이러한 상황은 금융 자동화에 불편함을 만듭니다. 소프트웨어를 더 많이 활용한 팀이 경쟁에서 앞서지만, 사용자는 누군가가 이를 중단하거나, 사후에 복구를 도울 수 있기를 원합니다.
AI is all that matters for markets right now.
— The Kobeissi Letter (@KobeissiLetter) October 1, 2026
AI infrastructure companies now account for 40% of the S&P 500’s market capitalization.
At the same time, just 3 chipmaker firms represent 28% of the MSCI Emerging Markets Index.
AI-related companies also account for 49% of… pic.twitter.com/d8Nqu9Kuyo
약속을 읽고, 약관을 확인하십시오
에후드 탈 블록체인 보안 회사 세일로 테크놀로지스(Sailo Technologies) 공동창립자 겸 대표는 환불 보장을 회사의 답변으로 제시합니다.
“우리는 고객에게 최초로 환불 보장을 제공합니다.”
책임 배분 실례로 스트라이프(Stripe)의 링크(Link) 월렛을 살펴볼 수 있습니다. 현행 에이전트 약관에 따르면, 연결된 에이전트가 시작한 거래에 대해, 설령 그 거래가 의도하지 않았거나, 오류, 환각, 오해에서 비롯된 경우에도, 사용자와 스트라이프 간에는 사용자가 책임을 져야 합니다.
단, 스트라이프 자체의 기술적 오류가 있는 경우에는 예외가 인정됩니다.
이러한 약관은 모든 소비자 법적 권리를 완전히 결정하지는 않습니다. 하지만 결제 서비스 이용 허가를 제공업체가 에이전트 실수를 보상해 주겠다는 약속으로 혼동해서는 안 되는 이유를 보여줍니다.
200 달러 지출 승인 행위는 결제 제공자에게 금액에 대한 정보만 전달할 수 있습니다. 실제로 당신이 염두에 둔 제품, 수령인, 조건 등에 관한 정보는 거의 전달하지 못할 수 있습니다.
구입 과정에 문제가 발생하면, 이 차이가 분쟁의 핵심이 될 수 있습니다.
이러한 분쟁을 더 쉽게 해결하기 위한 시도도 있습니다. 구글의 에이전트 결제 프로토콜은 사용자의 지시, 승인된 구매, 결제 사이를 연결하는 서명 기록을 설명합니다. 이런 기록은 승인된 내역을 입증하는 데 도움이 될 수 있습니다. 단, 환불 자체를 보장하지는 않습니다.
기존 책임도 여전히 유효합니다. 영국의 금융감독청(FCA)은, AI를 사용할 때 규제를 받는 회사들은 여전히 소비자 결과에 대한 책임이 있다고 밝혔습니다. 그리고 인간 검토가 단순한 형식적 절차에 그칠 수 있다고 경고합니다.
에이전트에 자금을 지원하는 사람은 구체적인 질문을 해야 합니다. 어떠한 구매가 가능한가요? 자신의 지시가 기록으로 남는가요? 추가 지출을 중단할 수 있는가요? 명확히 문제 제기한 결제의 처리는 누가 담당하나요?
“사람들이 신뢰할 수 있는 회사를 만들어야 합니다.” 비트코인 재팬 코퍼레이션의 필립 로드가 말합니다.
고객에게 있어 신뢰는 거래 후 시험을 받게 됩니다. 에이전트가 실수했을 때, 누가 환불을 받을지 결정해야 하기 때문입니다.
kr.beincrypto.com 에서 Mohammad Shahid의 원본 기사 AI 에이전트, 잘못된 항공권 예약하면? 읽기