Le débat sur la réglementation de l'IA en Chine entre dans l'ère des agents | Benzinga France

Benzinga
Abrir em Benzinga
Le débat sur la réglementation de l'IA en Chine entre dans l'ère des agents | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

À mesure que l’IA évolue de la génération de contenu vers la prise d’action, il ne s’agit plus d’une simple histoire technologique, mais d’un défi en matière de gouvernance

Crédit image : Bamboo Works

Depuis longtemps, la réunion annuelle des « Deux sessions » de Chine sert de vitrine pour ses priorités en matière de croissance, sa stratégie industrielle et son ambition technologique. Cette année, cependant, un thème devient de plus en plus difficile à ignorer : l’intelligence artificielle est de plus en plus considérée comme un problème de gouvernance.

Ce changement est important. Pendant une grande partie de la dernière décennie, l’histoire de l’IA en Chine s’est articulée autour de la notion d’échelle — qui possède le plus de données, les meilleurs talents en ingénierie, la base industrielle la plus profonde et le chemin le plus rapide vers la commercialisation. Aujourd’hui, le débat évolue car la technologie elle-même change. L’essor des agents d’IA — des systèmes conçus pour agir à travers des applications, des appareils et des services — force les décideurs à faire face à un ensemble plus compliqué de questions juridiques, économiques et sociales.

Ce défi est d’autant plus urgent que Pékin promeut sa stratégie globale « IA+ » pour accélérer l’adoption dans l’ensemble de l’économie. L’État veut que l’IA accroisse l’efficacité, renforce la mise à niveau industrielle et soutienne la croissance. Mais plus ces systèmes sont déployés, plus les questions de gouvernance deviennent complexes.

L’urgence est déjà visible dans la frénésie autour d’OpenClaw qui a récemment déferlé sur la Chine. À Shenzhen, des foules se sont alignées devant le bureau de Tencent pour s’y faire aider à installer l’agent viral open source. Les gouvernements locaux de Shenzhen et de Wuxi ont décidé de subventionner des projets liés à OpenClaw.

Parallèlement, un juge fédéral américain a récemment rendu une ordonnance préliminaire dans l’affaire Amazon contre Perplexity AI, en ordonnant à la société de stopper son agent d’IA Comet Browser d’accéder aux comptes Amazon protégés par mot de passe. Le tribunal a indiqué que le seul consentement de l’utilisateur pourrait ne pas suffire pour que les agents d’IA puissent fonctionner sur des plateformes tierces, laissant entendre qu’à la fois le consentement de l’utilisateur et l’autorisation de la plateforme pourraient être nécessaires. Ce principe de « double autorisation » pourrait marquer le début d’un nouveau cadre juridique pour l’IA agentique.

Les chatbots traditionnels se limitaient essentiellement à une seule interface. Par exemple, ils résumaient des documents ou généraient du texte. Les agents d’IA promettent quelque chose de plus conséquent. Ils sont conçus pour comparer des produits, organiser des calendriers, réserver des voyages, résumer des réunions, gérer des dossiers et interagir avec plusieurs applications avec une supervision humaine limitée.

Cela peut sembler être une évolution naturelle de l’assistant numérique. Mais cela change fondamentalement le profil de risque. Une fois qu’un système d’IA peut se déplacer entre les applications, accéder aux autorisations, lire les écrans et déclencher des actions, il devient une couche opérationnelle entre l’utilisateur et l’économie numérique.

Les agents d’IA soulèvent des questions politiques plus difficiles

À quelle quantité de données un assistant d’IA devrait-il être autorisé à accéder ? À quoi ressemble un consentement significatif de l’utilisateur lorsque les autorisations sont regroupées dans des écosystèmes d’applications complexes ? Si un agent d’IA effectue un achat, annule une réservation, gère mal des données sensibles ou donne une recommandation erronée qui cause un préjudice financier, qui est légalement responsable — le développeur, la plateforme, le fabricant de l’appareil ou l’utilisateur ?

Au cours des dernières années, les régulateurs chinois ont déjà élaboré un cadre visible pour les technologies numériques émergentes. Les règles concernant les algorithmes de recommandation, la synthèse profonde et les services d’IA générative ont établi un schéma plus large : Pékin permet généralement à l’innovation de progresser, mais dans le cadre d’une structure claire de supervision étatique, de conformité à la cybersécurité et de responsabilité en matière de contenu.

Équilibrer innovation et contrôle

Ce modèle reflète un équilibre bien connu. La Chine considère l’IA comme une chose d’importance stratégique pour la robotique, la fabrication, les semi-conducteurs, l’électronique grand public et la croissance de la productivité à long terme. Elle veut que les entreprises nationales se positionnent sur le plan mondial, tout en veillant à ce qu’elles se déploient rapidement chez elle. Mais des systèmes numériques puissants peuvent créer des risques si la commercialisation devance trop la gouvernance. Le résultat est une philosophie réglementaire qui tente de combiner une adoption rapide avec un contrôle politique et institutionnel.

Ce délicat équilibre rend le débat sur l’IA en Chine important au-delà des frontières du pays. Partout dans le monde, les gouvernements peinent encore à répondre à la même question : que doit exactement réguler la réglementation sur l’IA ? L’Europe est allée le plus loin avec le règlement sur l’IA de l’UE, en utilisant un cadre basé sur les risques. Les États-Unis ont choisi une voie plus fragmentée, en s’appuyant sur des actions exécutives, des interventions d’agences et des mesures d’application spécifiques à certains secteurs. La Chine n’est pas la seule à être confrontée à ce défi, mais l’ampleur de son économie numérique donne un poids inhabituel à la question.

Les principaux défis de la gouvernance qui émergent en Chine

Le premier défi est la gouvernance des données. Les agents d’IA ne sont aussi utiles que les informations auxquelles ils peuvent accéder. Mais cette même logique soulève également le risque de sur-collecte, d’un consentement faible et d’une mauvaise utilisation. À l’ère des agents, la vie privée concerne ce que les systèmes d’IA peuvent déduire, combiner et exploiter.

Le deuxième point de pression est la structure du marché. Si les assistants d’IA deviennent l’interface principale par laquelle les utilisateurs découvrent des produits, comparent des services, effectuent des réservations ou gèrent des tâches quotidiennes, alors la dynamique du pouvoir dans l’économie des plateformes chinoises pourrait à nouveau changer. La recherche, le commerce électronique, les paiements et les services locaux pourraient tous être remodelés par celui qui contrôle la couche d’assistance. Cela soulèverait des questions de concurrence concernant l’accès, le classement, l’auto-préférence et la répartition du trafic entre les grandes plateformes et les petits développeurs.

Le troisième point est la responsabilité. Plus les systèmes d’IA gagnent en autonomie, plus il devient difficile d’attribuer la responsabilité lorsqu’un problème survient. Les erreurs mineures de recommandations sont une chose. Les pertes financières, les violations de la vie privée ou les défaillances de la sécurité en sont une autre. Les régulateurs doivent définir des limites de responsabilité plus claires, en particulier lorsque les systèmes d’IA commencent à prendre des décisions dans des environnements commerciaux ou industriels plus sensibles.

La sécurité est une autre préoccupation. Les systèmes d’IA peuvent être manipulés par des invites malveillantes, compromis par des données empoisonnées ou exploités par des vulnérabilités logicielles. À mesure qu’ils se propagent dans les outils d’entreprise, les dispositifs connectés et les environnements industriels, les conséquences de ces faiblesses deviennent bien plus importantes. Un chatbot peu fiable est gênant. Un agent d’IA compromis intégré à la logistique, aux finances ou aux systèmes critiques est beaucoup plus grave.

Le point le plus important est que le débat sur l’IA en Chine ne concerne plus seulement l’innovation. Il s’agit de la préparation institutionnelle. L’essor des systèmes de plus en plus autonomes teste la robustesse des cadres juridiques et réglementaires actuels en vue de la prochaine phase du cycle technologique.

C’est pourquoi la conversation qui se déroule actuellement est importante. À mesure que ces systèmes commencent à agir et ne se contentent plus de générer, les décideurs politiques sont contraints de faire face à une réalité plus difficile : les pays leaders en matière d’IA devraient être ceux qui apprennent le plus vite à savoir comment les gouverner.

Pour vous abonner à la newsletter hebdomadaire gratuite de Bamboo Works, cliquez ici

Avertissement de Benzinga : Cet article provient d’un contributeur externe non rémunéré. Il ne reflète pas le point de vue de Benzinga et n’a pas été édité pour son contenu ou son exactitude.