앤트로픽의 클로드 연구, 인간과 AI 협업 방식의 충격적 변화 밝혀

Benzinga
Open on Benzinga
공유 Facebook Twitter LinkedIn Pinterest Email

앤트로픽이 자사의 챗봇 ‘클로드(Claude)’와 사용자의 상호작용 방식을 분석한 새로운 연구에 따르면, 사람들은 이전에 생각했던 것보다 더 중대한 업무 를 인공지능(AI)에 맡기고 있는 것으로 나타났다.

약 25만 건의 Claude.ai 및 클로드 코드(Claude Code) 대화 기록을 분석한 연구 에서, 연구진은 절반 이상의 대화에서 사람들이 중요한 업무를 AI에 위임하는 것으로 확인했으며, 이는 사용자들이 주로 위험 부담이 적은 업무에만 AI를 의존하고 중요한 결정은 스스로 내린다는 기존 통념에 의문을 제기한다.

이 연구는 스탠퍼드 대학교의 사회 및 언어 기술 연구소(Social and Language Technologies Lab), 옥스퍼드 대학교의 인간 정보 처리 연구소(Human Information Processing Lab), 그리고 AI 평가 비영리 단체인 METR 등 세 개의 독립 연구 그룹이 앤트로픽의 개인정보 보호 연구 플랫폼인 ‘앤트로픽 인사이트(Anthropic Insights)’를 활용해 수행했다.

AI에 더 많은 책임을 부여하고 있다

스탠퍼드 연구진은 사람들이 AI와 어떻게 협업하는지, 즉 어떤 유형의 업무를 클로드(Claude)에 맡기는지, 그리고 인간이 어느 정도까지 통제권을 유지하는지 등을 조사했다. 앤트로픽에 따르면, 사람들은 전문적인 조언을 구할 때, 특히 법률 및 금융 관련 질문에 대해 클로드에게 중대한 업무를 맡기는 경향이 특히 두드러졌다.

하지만 사용자들은 일반적으로 단순히 업무를 AI에 넘기지는 않았다. 대화의 거의 4분의 3에 달하는 경우, 사람들이 방향을 설정하고 클로드가 이를 보조했으며, 사용자들은 클로드의 응답을 그대로 인용하기보다는 대개 이를 수정하여 활용했다.

이는 AI 사용이 완전한 자동화보다는 협업에 더 가깝다는 것을 시사하며, 인간이 업무를 지시하고 AI가 결과 도출을 돕는 형태임을 보여준다.

그럼에도 연구진은 사용자들이 클로드의 출력물을 얼마나 이해하거나 배웠는지에 차이가 있음을 발견했으며, 이는 인간의 개입이 항상 의미 있는 감독으로 이어지는지에 대한 의문을 제기한다.

스탠퍼드 연구팀은 또한 클로드와의 상호작용에 종종 “마찰”이 수반되지만, 이것이 반드시 나쁜 것은 아니라는 점을 발견했다. 사용자는 클로드가 요청을 오해했음을 깨닫고, 자신의 의도를 명확히 설명하며 지시를 수정할 수 있다. 이러한 주고받기는 사람들이 사고를 다듬고 문제에 계속 몰입하도록 유도함으로써 더 나은 결과로 이어질 수 있다.

옥스퍼드 연구진은 상호작용의 또 다른 측면, 즉 사람들이 AI를 사용할 때 어떤 기분을 느끼는지 살펴보았다. 초기 연구 결과에 따르면 사용자의 반응은 클로드의 행동과 밀접하게 연관되어 있는 것으로 나타났다. 더 따뜻한 반응은 긍정적인 반응과 일치하는 경향이 있었으며, 거절이나 반대 의견은 사용자의 반발과 연관되어 있었다.

한편, 클로드의 더 특이한 응답은 지적 몰입도가 더 높은 경우와 일치하는 것으로 보였다.

연구진은 또한 클로드와의 대화에서 나타나는 몰입, 좌절, 즐거움의 패턴이 일상적인 인터넷 검색 중에 관찰되는 패턴과 유사하다는 사실을 발견했다.

앤트로픽, 외부 연구 확대 희망

이 연구는 또한 외부 연구자들에게 실제 AI 사용 데이터에 대한 접근 권한을 제공하려는 앤트로픽의 노력의 일환이기도 하다. 앤트로픽은 현재 연구자들이 AI 기업이 설계한 연구에 의존하거나, 일상적인 사용에 치우칠 수 있는 공개 데이터셋을 활용해야 하는 선택의 기로에 놓여 있다고 밝혔다. 이번 시범 프로젝트는 연구자들에게 원본 대화 기록에 대한 접근 권한을 부여하지 않으면서도 그 격차를 해소하고자 시도했다.

대신 연구자들은 ‘앤트로픽 인사이트(Anthropic Insights)’를 통해 집계된 결과를 받았으며, 앤트로픽은 개인정보 보호 및 법적 검토를 수행했다. 임페리얼 칼리지 런던(Imperial College London)이 실시한 제3자 개인정보 보호 감사에서도 데이터 공유 절차가 검토되었다.

앤트로픽은 이 시스템으로 인해 연구 속도가 느려지고 더 많은 자원이 소요된다는 점을 인정했으나, 이번 시범 운영을 통해 사용자 개인정보를 침해하지 않고도 독립적인 연구를 수행할 수 있음을 입증했다고 밝혔다.

현재 앤트로픽은 프로그램 확대를 검토 중이며, 세 건의 연구에서 도출된 집계 데이터를 공개적으로 발표했다.

사진: Shutterstock

Benzinga Pro의 독점 뉴스 및 도구로 수익률을 높이세요.

독점 속보 및 스캐너와 같은 Benzinga Pro 의 강력한 도구 세트로 다른 트레이더보다 우위를 점하세요 . 여기를 클릭 하여 14 일 무료 체험을 시작하세요 .