China cambia las reglas de la IA: el nuevo frente que puede redefinir el negocio tecnológico | Benzinga España

Benzinga
Benzinga에서 열기
China cambia las reglas de la IA: el nuevo frente que puede redefinir el negocio tecnológico | Benzinga España
Share Facebook Twitter LinkedIn Pinterest Email

A medida que la IA pasa de generar contenido a tomar medidas, ya no se trata solo de una cuestión tecnológica, sino de un reto de gobernanza

Crédito de la imagen: Bamboo Works

La reunión anual de las «Dos Sesiones» de China ha servido durante mucho tiempo como escaparate de las prioridades de crecimiento, la estrategia industrial y la ambición tecnológica. Este año, sin embargo, hay un tema que cada vez es más difícil de ignorar: la inteligencia artificial se está tratando cada vez más como un problema de gobernanza.

Ese cambio es importante. Durante gran parte de la última década, la historia de la IA en China se centró en la escala: quién tenía más datos, el mejor talento en ingeniería, la base industrial más sólida y el camino más rápido hacia la comercialización. Ahora el debate está cambiando porque la tecnología en sí misma está cambiando. El auge de los agentes de IA —sistemas diseñados para actuar en aplicaciones, dispositivos y servicios— está obligando a los responsables políticos a enfrentarse a un conjunto más complejo de cuestiones legales, económicas y sociales.

Ese desafío es especialmente urgente ahora que Pekín promueve su estrategia más amplia «IA+» para acelerar la adopción en toda la economía. El Estado quiere que la IA aumente la eficiencia, refuerce la modernización industrial y impulse el crecimiento. Pero cuanto más se extienden estos sistemas, más complicadas se vuelven las cuestiones de gobernanza.

La urgencia ya se nota en el frenesí por OpenClaw que se ha apoderado de China en las últimas semanas. En Shenzhen, multitudes hacían cola frente a la oficina de Tencent para que les ayudaran a instalar el agente de código abierto que se ha vuelto viral. Los gobiernos locales de Shenzhen y Wuxi tomaron medidas para subvencionar proyectos relacionados con OpenClaw.

También puedes leer: Alibaba revela el auge de empresas unipersonales con IA: ¿nuevo motor de crecimiento para sus acciones?

Mientras tanto, un juez federal de EE. UU. dictó recientemente una orden judicial preliminar en el caso Amazon contra Perplexity AI, ordenando a la empresa que impidiera que su agente de IA para navegadores, Comet, accediera a cuentas de Amazon protegidas con contraseña. El tribunal señaló que el permiso del usuario por sí solo podría no ser suficiente para que los agentes de IA operen en plataformas de terceros, lo que sugiere que podrían ser necesarios tanto el consentimiento del usuario como la autorización de la plataforma. Este principio de «doble autorización» podría marcar el comienzo de un nuevo marco legal para la IA agentiva.

Los chatbots tradicionales se limitaban en su mayoría a una sola interfaz. Resumían documentos o generaban texto, por ejemplo. Los agentes de IA prometen algo más trascendental. Se están diseñando para comparar productos, organizar calendarios, reservar viajes, resumir reuniones, gestionar archivos e interactuar con múltiples aplicaciones con una supervisión humana limitada.

Eso puede parecer una evolución natural del asistente digital. Pero cambia radicalmente el perfil de riesgo. Una vez que un sistema de IA puede moverse entre aplicaciones, acceder a permisos, leer pantallas y activar acciones, se convierte en una capa operativa entre el usuario y la economía digital.

Los agentes de IA plantean cuestiones normativas más complejas

¿A cuántos datos debería permitirse acceder a un asistente de IA? ¿Qué se considera un consentimiento significativo del usuario cuando los permisos se agrupan en ecosistemas de aplicaciones complejos? Si un agente de IA realiza una compra, cancela una reserva, maneja mal datos sensibles o da una recomendación errónea que causa un perjuicio económico, ¿quién es legalmente responsable: el desarrollador, la plataforma, el fabricante del dispositivo o el usuario?

En los últimos años, los reguladores chinos ya han desarrollado un marco visible para las tecnologías digitales emergentes. Las normas sobre algoritmos de recomendación, síntesis profunda y servicios de IA generativa han establecido un patrón más amplio: Pekín suele permitir que la innovación avance, pero bajo una estructura clara de supervisión estatal, cumplimiento de la ciberseguridad y responsabilidad relacionada con los contenidos.

Equilibrio entre innovación y control

Ese modelo refleja un delicado equilibrio. China considera que la IA es estratégicamente importante para la robótica, la fabricación, los semiconductores, la electrónica de consumo y el crecimiento de la productividad a largo plazo. Quiere que las empresas nacionales compitan a nivel mundial al tiempo que se implementan rápidamente en el país. Pero los potentes sistemas digitales pueden generar riesgos si la comercialización se adelanta demasiado a la gobernanza. El resultado es una filosofía regulatoria que intenta combinar la rápida adopción con el control político e institucional.

Ese equilibrio hace que el debate sobre la IA en China sea importante más allá de la propia China. En todo el mundo, los gobiernos siguen luchando por responder a la misma pregunta: ¿qué es exactamente lo que debe regular la normativa sobre IA? Europa es la que más ha avanzado con la Ley de IA de la UE, utilizando un marco basado en el riesgo. Estados Unidos ha tomado una ruta más fragmentada, basándose en medidas ejecutivas, la intervención de agencias y la aplicación específica por sectores. China no es la única que se enfrenta a ese reto, pero la escala de su economía digital le da al tema un peso inusual.

Grandes retos de gobernanza que surgen en China

El primer reto es la gobernanza de los datos. Los agentes de IA son tan útiles como la información a la que pueden acceder. Pero esa misma lógica también plantea el riesgo de recopilación excesiva, consentimiento débil y uso indebido. En la era de los agentes, la privacidad tiene que ver con lo que los sistemas de IA pueden inferir, combinar y sobre lo que pueden actuar.

El segundo punto de presión es la estructura del mercado. Si los asistentes de IA se convierten en la interfaz principal a través de la cual los usuarios descubren productos, comparan servicios, hacen reservas o gestionan tareas diarias, entonces la dinámica de poder de la economía de plataformas de China podría cambiar de nuevo. Las búsquedas, el comercio electrónico, los pagos y los servicios locales podrían verse reconfigurados por quienquiera que controle la capa de los asistentes. Eso plantearía cuestiones de competencia sobre el acceso, el posicionamiento, el favoritismo y la distribución del tráfico entre las grandes plataformas y los desarrolladores más pequeños.

El tercero es la responsabilidad. Cuanta más autonomía ganen los sistemas de IA, más difícil será atribuir la responsabilidad cuando algo salga mal. Los pequeños errores en las recomendaciones son una cosa. Las pérdidas económicas, las violaciones de la privacidad o los fallos de seguridad son otra. Los reguladores deben definir límites más claros de responsabilidad, especialmente ahora que los sistemas de IA empiezan a tomar decisiones en entornos comerciales o industriales más sensibles.

La seguridad es otra preocupación. Los sistemas de IA pueden ser manipulados mediante indicaciones maliciosas, comprometidos a través de datos contaminados o explotados a través de vulnerabilidades de software. A medida que se extienden a herramientas empresariales, dispositivos conectados y entornos industriales, las consecuencias de esas debilidades se vuelven mucho mayores. Un chatbot poco fiable es un inconveniente. Un agente de IA comprometido integrado en sistemas logísticos, financieros o críticos es algo mucho más grave.

La cuestión más importante es que el debate sobre la IA en China ya no se limita a la innovación. Se trata de la preparación institucional. El auge de sistemas cada vez más autónomos está poniendo a prueba si los marcos legales y normativos actuales son lo suficientemente sólidos para la siguiente fase del ciclo tecnológico.

Por eso es importante el debate que se está desarrollando ahora. A medida que estos sistemas empiezan a actuar, y no solo a generar, los responsables políticos se ven obligados a afrontar una realidad más dura: los países que lideran la IA deberían ser los que aprendan más rápido a regularlos.

Para suscribirte al boletín semanal gratuito de Bamboo Works, haz clic aquí

Descargo de responsabilidad de Benzinga: Este artículo es de un colaborador externo no remunerado. No representa la información de Benzinga y no ha sido editado en cuanto a contenido o precisión.

Recibe noticias exclusivas 30 minutos antes que otros traders
La prueba gratuita de 14 días de Benzinga Pro te brinda acceso a noticias exclusivas para que puedas realizar transacciones antes que millones de otros inversores. Comienza tu prueba gratuita de 14 días haciendo CLIC AQUÍ .

Para más actualizaciones sobre este tema, activa las notificaciones de Benzinga España o síguenos en nuestras redes sociales: X y Facebook.