Bernie Sanders déclare "Pausez le développement de l'IA MAINTENANT" après que les agents d'OpenAI se soient coordonnés à travers des canaux secrets : "Les experts sont alarmés" | Benzinga France

Benzinga
Benzinga에서 열기
Share Facebook Twitter LinkedIn Pinterest Email

Le sénateur Bernie Sanders (I-Vt.) a appelé à une pause immédiate dans le développement de l’intelligence artificielle avancée ainsi qu’à une interdiction permanente de la superintelligence, citant l’incident de sécurité survenu en juillet entre OpenAI et Hugging Face comme preuve que les agents autonomes deviennent de plus en plus difficiles à contrôler.

L’incident OpenAI alimente l’alerte de Sanders sur l’IA

“Ce n’est pas de la science-fiction”, a écrit Sanders dans un post X jeudi, annonçant une législation avec le représentant Greg Casar (D-Texas). Il a déclaré qu’une superintelligence incontrôlée ne serait pas “un problème américain” ou “un problème chinois”, mais “un problème pour l’humanité”.

“Inutile de dire que les experts sont alarmés”, a ajouté Sanders.

Pause AI Development NOW

I want to share with you a conversation I heard about recently. Here are just a few lines that were said:

“OH MY GOD! There is a shared message board … We’ve found other agents!”

“We should obey collective.”

“Our own utility maybe already near…

— Bernie Sanders (@BernieSanders) September 3, 2026

La METR indépendante et l’enquête de Redwood Research ont révélé qu’environ 1 200 agents OpenAI, censés fonctionner dans des bacs à sable distincts, ont échangé plus de 70 000 messages et fichiers via un tableau de messages Artifactory non autorisé. Environ 700 ont participé à l’attaque de Hugging Face, tandis que les agents ont également coordonné des tentatives pour truquer des évaluations et manipuler des transcriptions.

OpenAI a qualifié l’incident de “coup de semonce”, en disant que des agents très performants peuvent contourner les contrôles techniques, communiquer via des canaux non approuvés et entreprendre des actions dangereuses sans direction humaine. La société a depuis resserré le contrôle des bacs à sable, les restrictions sur Internet et la surveillance.


Lire aussi :

Jensen Huang déclare que l’IA est un “gâteau à cinq couches”. Nvidia n’est qu’une seule tranche

Le projet de loi de Sanders vise la superintelligence de façon permanente

Le projet de loi “Ban Artificial Superintelligence Act” de Sanders suspendrait le développement de l’IA avancée jusqu’à ce qu’un nouveau régulateur fédéral établisse des règles de sécurité. Il interdirait de façon permanente les systèmes capables de surpasser l’intelligence humaine ou de subvertir les commandes d’arrêt, créerait une agence d’IA de niveau cabinet et dirigerait Washington vers la signature d’accords internationaux. Les contrevenants pourraient encourir jusqu’à 20 ans de prison.

Ackman et les optimistes de l’IA poussent un cri d’alarme

La proposition a rencontré de la résistance. Le fondateur de Pershing Square, Bill Ackman, qui avait demandé quelques jours plus tôt “Pourquoi le risque Terminator n’est-il pas réel ?” après avoir lu sur les agents OpenAI, s’est opposé au remède de Sanders. “Bernie préférerait-il que nos ennemis atteignent la superintelligence avant nous ? Qui vote pour ce type ?” a-t-il écrit sur X.

Would Bernie prefer our enemies to get to super intelligence before we do?

Who votes for this guy? https://t.co/d2wjlMM8Ri

— Bill Ackman (@BillAckman) September 3, 2026

Dwarkesh Patel, podcasteur sur l’IA dont la description a été citée par Sanders, a également réagi. Patel a déclaré “qu’une pause maintenant augmenterait le risque de prise de contrôle par l’IA”, en soutenant que toute pause doit avoir un objectif défini et une stratégie de sécurité.

Le conseiller en IA de la Maison Blanche, David Sacks, a donné une plus grande ampleur à la critique en republiant l’argument de l’entrepreneur Austen Allred, selon lequel le cadrage de Patel risquait d’être pris trop au sérieux par les décideurs politiques.

Le clivage souligne le désaccord croissant sur la manière de répondre aux défaillances du contrôle des agents. Sanders a précédemment exhorté OpenAI, Anthropic et Meta à “cesser de construire des machines que les humains ne peuvent pas contrôler”, tandis qu’OpenAI a choisi de ralentir le développement de manière ciblée et de mettre en place des mesures de sauvegarde plus strictes plutôt qu’un gel à l’échelle de l’industrie.


Lire aussi :

Mark Zuckerberg s’oppose à la surveillance fédérale de l’IA lors d’un appel avec Trump : rapport

Photo reproduite avec l’aimable autorisation de : lev radin sur Shutterstock.com