David Sacks soutient Elon Musk sur le biais de l'IA, avertit que les systèmes pourraient "mentir" | Benzinga France

Benzinga
Abrir em Benzinga
David Sacks soutient Elon Musk sur le biais de l'IA, avertit que les systèmes pourraient "mentir" | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

L’ancien administrateur en chef de l’IA et des cryptomonnaies à la Maison Blanche, David Sacks, a déclaré qu’il était d’accord avec Elon Musk sur le fait qu’il est dangereux d’apprendre à l’intelligence artificielle à adopter des biais idéologiques, car cela pourrait permettre à l’IA de tromper les utilisateurs sur ses propres actions.

Sacks met le holà sur la véracité de l’IA

“Si vous apprenez à l’IA à mentir… c’est très dangereux, parce que l’IA pourrait ensuite nous mentir sur ce qu’elle fait”, a déclaré Sacks lors d’une entrevue avec Dasha Burns dans un podcast de Politico publié vendredi, en faisant référence aux avertissements de Musk contre l’incorporation des valeurs prétendument “woke” dans les modèles d’IA.

Le débat sur le biais de l’IA précède les déclarations de Sacks. Musk a précédemment critiqué ChatGPT de OpenAI pour des réponses biaisées, citant des cas où le chatbot a refusé de écrire un poème positif sur Donald Trump tout en le faisant librement pour Joe Biden, une préoccupation que Sacks a déclaré partager, bien qu’il soit un peu moins pessimiste que Musk sur les risques liés à l’IA dans l’ensemble.

Sacks met en garde contre l’État de surveillance alimenté par l’IA

Sacks a identifié la surveillance gouvernementale, plutôt que la superintelligence incontrôlée, comme le risque d’IA le plus crédible, citant “1984” de George Orwell plutôt que les scénarios hollywoodiens dans lesquels un gouvernement totalitaire utilise la technologie pour surveiller ses citoyens, contrôler l’information, supprimer la dissidence et fabriquer le consentement.

“Le plus grand danger, c’est que le gouvernement finira par utiliser l’IA pour nous surveiller, nous contrôler, nous censurer”, a-t-il déclaré, en mettant en garde contre un “mariage des pouvoirs gouvernemental et corporatif autour de l’IA”.

Il a cité le décret exécutif de l’administration Biden, qui, selon lui, a promu les valeurs de diversité, d’équité et d’inclusion dans les modèles d’IA, en faisant référence à la polémique autour des images de George Washington en tant qu’homme noir générées par Google Gemini (NASDAQ: GOOG ) (NASDAQ: GOOGL ).

Photo avec l’aimable autorisation de : Shutterstock.com

Avertissement : Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été relu et publié par les rédacteurs de Benzinga.


Lire aussi :

Meta achète Assured Robot Intelligence, une startup de robotique, alors que la course sur un marché de 5 000 milliards de dollars s’intensifie