Co-fondateur anthropique affirme que les systèmes d'IA montrent 'introspection' et des états semblables à l'émotion lors d'un événement au Vatican, incitant Vinod Khosla à critiquer le débat 'élitiste' | Benzinga France

Benzinga
Abrir en Benzinga
Co-fondateur anthropique affirme que les systèmes d'IA montrent 'introspection' et des états semblables à l'émotion lors d'un événement au Vatican, incitant Vinod Khosla à critiquer le débat 'élitiste' | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

Lundi, le cofondateur d’Anthropic, Chris Olah, a déclaré que les systèmes d’IA avancés présentaient des schémas ressemblant à de la “joie”, de la “peur” et du “chagrin”, après quoi le capital-risqueur Vinod Khosla a critiqué la discussion menée par le Vatican en la qualifiant “d’élitiste”.

Le débat sur l’éthique de l’IA occupe le devant de la scène au Vatican

Le pape Léo XIV a publié une importante encyclique intitulée Magnifica Humanitas : Sur la sauvegarde de la personne humaine à l’époque de l’intelligence artificielle, dans laquelle il avertit que le développement de l’IA doit ralentir et rester sous contrôle humain.

Le pape a mis en garde contre le fait de concentrer le pouvoir de l’IA “entre les mains de seulement quelques personnes” et a soutenu que “le fait de la réguler simplement est insuffisant”.

Il a également appelé au “désarmement de l’IA”, en précisant que l’objectif n’était pas de rejeter la technologie mais de l’empêcher de “dominer l’humanité”.

Le Vatican a dévoilé le document en compagnie d’Olah, qui a parlé de la complexité croissante et de l’imprévisibilité des systèmes d’IA avancés.

Source : X


Lire aussi :

Sundar Pichai avertit que l’Amérique va se faire dépasser par la Chine si elle n’a pas de règles nationales sur l’IA

Chris Olah met en garde contre le comportement « mystérieux » de l’IA

Lors de la présentation, Olah a déclaré que les chercheurs étudiant la mécanique interne des modèles d’IA continuent de découvrir des comportements qu’ils ne comprennent pas complètement.

“Nous continuons à trouver des choses qui sont mystérieuses, voire inquiétantes”, a déclaré Olah, ajoutant que les chercheurs ont observé des structures ressemblant à des schémas observés en neurosciences humaines ainsi que des preuves d’”introspection”.

Il a ajouté que les systèmes d’IA semblent développer des états internes qui “reflètent fonctionnellement la joie, la satisfaction, la peur, le chagrin et le malaise”, bien qu’il ait reconnu que les chercheurs ne savent toujours pas ce que ces résultats signifient en fin de compte.

Olah a exhorté les gouvernements, les groupes religieux et la société civile à s’impliquer davantage dans la surveillance de l’IA, déclarant que l’industrie a besoin de “voix morales que les incitations ne peuvent pas plier”.

Le pape Léo XIV a remercié Olah et a déclaré que l’Église était prête à travailler aux côtés des chercheurs en IA pour aider à guider l’humanité à travers la montée de l’IA.

Vinod Khosla qualifie le débat “d’élitiste”

Khosla a critiqué le cadrage de la discussion du Vatican dans un post sur X, le qualifiant de “très élitiste”.

Khosla a soutenu que les questions sur la manière dont l’IA devrait interagir avec la société devraient trouver des réponses auprès de l’humanité dans son ensemble plutôt que par les “religions”, la “philosophie” ou les “institutions élitistes avec leur vision de la supériorité”.

Source : X

Vance met en garde contre les risques de cyberattaque liés à l’IA

Le vice-président JD Vance a mis en garde des dirigeants de Microsoft Corp (NASDAQ :MSFT), OpenAI et Anthropic contre le fait que Mythos — un système d’IA capable d’identifier de manière autonome les vulnérabilités logicielles — pourrait potentiellement permettre des cyberattaques ciblant les banques communautaires, les hôpitaux et les stations de traitement de l’eau.

Au sommet de l’IA de Paris de l’année dernière, Vance avait averti que trop de régulation pourrait étouffer l’industrie de l’IA .

Plus tôt ce mois-ci, le directeur du Conseil national de l’économie Kevin Hassett a déclaré que Donald Trump envisageait un décret exécutif qui introduirait des mesures de surveillance pour les nouveaux modèles d’intelligence artificielle.

Avertissement : Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été examiné et publié par les éditeurs de Benzinga.


Lire aussi :

Kevin O’Leary dénonce une campagne mondiale de bots visant son centre de données IA de l’Utah, les résultats partagés avec l’administration Trump

Photo offerte par : Photo For Everything sur Shutterstock.com