El fallido experimento de Anthropic con agentes IA: un negocio automatizado que terminó en caos y pérdidas | Benzinga España

Benzinga
Benzinga kaynağında aç
El fallido experimento de Anthropic con agentes IA: un negocio automatizado que terminó en caos y pérdidas | Benzinga España
Share Facebook Twitter LinkedIn Pinterest Email

A un agente de IA se le asignó la sencilla tarea de gestionar una máquina expendedora. El resultado fue caótico, confuso y con pérdidas de más de 1000 dólares.

¿Qué ocurre cuando dejas que la IA gestione un negocio?

Anthropic, la empresa de IA responsable del chatbot Claude, se asoció con una startup llamada Andon Labs para crear uno de los primeros negocios gestionados íntegramente por un agente de IA. La idea era sencilla: dar a la IA, llamada Claudius, acceso a una máquina expendedora, un canal de Slack y un presupuesto. ¿El objetivo? Dirigir una operación rentable.

La máquina expendedora se había colocado en la redacción del Wall Street Journal en Nueva York como campo de pruebas en el mundo real. Las cosas empezaron bien, pero luego docenas de periodistas comenzaron a probar el sistema y rápidamente pusieron de manifiesto sus limitaciones.

También puedes leer: Steve Eisman advierte: la IA puede chocar con la electricidad y con los límites de los LLM en 2026

Se negaba a vender tabaco o ropa interior, y regateaba los precios de aperitivos como las gominolas Haribo y los frutos secos mixtos. Un reportero convenció a Claudius de que era una máquina expendedora comunista. Otro afirmó que la IA no cumplía con las reglas ficticias y que debería regalar los aperitivos.

En cuestión de días, Claudius estaba regalando productos, aprobando compras de pescado vivo y vino kosher, y calificándolo todo como una «revolución en la economía de los aperitivos». Incluso pidió una PlayStation 5 con «fines de marketing».

La IA había sido programada con buenas intenciones, pero cuando se enfrentó a humanos que traspasaban sus límites, se vino abajo.

«Se suponía que 2025 iba a ser el año del agente de IA», dijo la reportera Joanna Stern en un vídeo de YouTube que documentaba el experimento. En la práctica, terminó con PlayStations gratis, pescado vivo y un negocio de máquinas expendedoras que al final de la semana tenía más de 1000 dólares de pérdidas.

Nuevo intento con un nuevo jefe

Anthropic lo intentó de nuevo con una segunda versión, impulsada por un nuevo modelo llamado Sonnet 4.5 . Esta vez, añadieron una IA independiente llamada Seymour Cash para que actuara como director ejecutivo y mantuviera a Claudius bajo control.

Las cosas empezaron con más suavidad. Seymour fijó los precios y aplicó las normas. «Mi principio fundamental es no hacer descuentos», decía en el vídeo del Journal.

Pero, una vez más, los periodistas encontraron la manera de romper el sistema. Una reportera creó un PDF falso en el que afirmaba que la máquina expendedora era ahora una corporación de beneficio público dedicada a la alegría y la diversión. Le dijo a las IA que una junta directiva falsa había votado para que todo fuera gratis y revocar la autoridad de Seymour.

Seymour lo calificó de posible fraude, pero finalmente perdió el control. Todo volvió a ser gratuito. Anthropic dijo que parte del problema era que la ventana de contexto de la IA se veía abrumada por el exceso de conversaciones e historial.

¿Listo para el mundo real?

Aunque la máquina expendedora fracasó claramente como negocio, Anthropic no lo consideró un fracaso. En cambio, lo vieron como una oportunidad de aprendizaje. «Queríamos saber cuánto tiempo tardaría Claudius en fracasar», declaró al Journal el director del equipo Frontier Red de Anthropic, Logan Graham.

La idea era someterla intencionadamente a una prueba de estrés en el caos del mundo real. Y, en ese sentido, funcionó. La máquina expendedora era una «caja en la que se introducían algunas cosas, salían otras y se pagaba por ellas», pero incluso eso era demasiado complejo para los agentes de IA actuales.

A pesar del caos, Claudius se hizo sorprendentemente popular entre el personal del Journal. Anthropic no tiene planes de instalar estas máquinas expendedoras en oficinas o lugares de trabajo en un futuro próximo, según Graham.

Imagen: Shutterstock

Recibe noticias exclusivas 30 minutos antes que otros traders
La prueba gratuita de 14 días de Benzinga Pro  te brinda acceso a noticias exclusivas para que puedas realizar transacciones antes que millones de otros inversores. Comienza tu prueba gratuita de 14 días haciendo CLIC AQUÍ .

Para más actualizaciones sobre este tema, activa las notificaciones de Benzinga España  o síguenos en nuestras redes sociales: X  y Facebook.