L'ancienne directrice technique d'OpenAI, Mira Murati, partage une mise en garde sévère concernant l'avenir de l'IA, affirmant qu'elle ressemble plus à un 'vélo tandem' qu'à un pilote automatique | Benzinga France

Benzinga
Benzingaで開く
Share Facebook Twitter LinkedIn Pinterest Email

Mira Murati, cofondatrice et PDG de Thinking Machines Lab, a déclaré que l’IA avancée doit fonctionner comme un « vélo tandem », avec une collaboration entre les humains et les machines tout au long du développement.

S’exprimant à la conférence Bloomberg Tech 2026 à San Francisco vendredi, l’ancienne directrice de la technologie chez OpenAI a repoussé l’idée selon laquelle le fait d’intégrer les “humains dans la boucle” constitue un cadre suffisant pour un développement sûr de l’IA. « Cela ressemble à un point de contrôle où l’on signe quelque chose et ensuite tout est bon », a-t-elle déclaré.

« Les deux personnes pédalent, mais lorsqu’on monte une côte, celle qui est la plus forte pédale plus fort, mais les deux mains restent sur le guidon », a déclaré Murati. « C’est un système conçu pour la collaboration. »

Un résultat incertain

Murati a déclaré que l’avenir de l’IA « n’est pas un résultat prédestiné », rejetant les prédictions de dystopie ou d’utopie comme étant trop simplistes. Elle a appelé à des freins et contrepoids institutionnels plutôt qu’à une autorité individuelle, affirmant que la gouvernance et la transparence comptent autant que le caractère des personnes qui développent la technologie.

Leçons tirées de la crise du conseil d’administration

Murati, qui a été nommée directrice générale par intérim lors de la crise du conseil d’administration d’OpenAI en novembre 2023, a vu de ses propres yeux ce que coûte une conception institutionnelle faible. Elle a déclaré que la conversation autour du leadership en matière d’IA s’enferme « trop » dans le caractère individuel sans se concentrer suffisamment sur les structures de prise de décision. « Même les personnes bien intentionnées peuvent faire des erreurs », a-t-elle déclaré.

La dirigeante technologique américano-albanaise a fait valoir que le fait d’exclure les humains du développement de l’IA rend l’alignement plus difficile à réaliser par la suite. « Je ne vois que très peu de possibilités à l’avenir de pouvoir bien faire les choses à un moment où les systèmes d’IA seraient encore plus performants », a-t-elle déclaré.

Plus tôt dans l’interview, Murati a souligné les modèles d’interaction récemment dévoilés par Thinking Machines comme une première démonstration de l’accent mis par la société sur la collaboration homme-IA. Les modèles traitent en continu l’audio, le texte et la vidéo en temps réel, une philosophie qu’elle a décrite plus tard comme un « vélo tandem » dans lequel les humains et l’IA travaillent ensemble plutôt que de fonctionner de manière indépendante.

Photo offerte par : Shutterstock

Avertissement : Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été examiné et publié par les éditeurs de Benzinga.


Lire aussi :

Pourquoi Reid Hoffman, le fondateur de LinkedIn, quitte le conseil d’administration de Microsoft