Le co-PDG de Waymo vient de lancer un avertissement sévère à toutes les entreprises d'IA construisant des robots et des voitures : "Il n'y a tout simplement pas de retour en arrière..." | Benzinga France

Benzinga
Benzinga에서 열기
Share Facebook Twitter LinkedIn Pinterest Email

Dmitri Dolgov, co-PDG de Waymo filiale d’Alphabet Inc. (NASDAQ: GOOG ) (NASDAQ: GOOGL ), met en garde les développeurs d’intelligence artificielle physique contre l’application de la culture de la Silicon Valley axée sur la disruption aux voitures et aux robots autonomes, où les erreurs peuvent causer des dommages irréversibles.

Dolgov rejette le mantra de l’IA de la Silicon Valley

Lors de son entretien à la Y Combinator interview publiée lundi, Dolgov a déclaré que l’approche habituelle de l’industrie technologique devient inacceptable dès lors que l’intelligence artificielle évolue des produits numériques vers des machines fonctionnant autour des personnes. « Move fast and break things » (avancez vite et cassez tout), Dolgov a suggéré à la place « Move fast and ship safely » (avancez vite et livrez en toute sécurité)

Dolgov a déclaré que les développeurs doivent intégrer la sécurité dans leurs modèles, leurs méthodes de formation et l’architecture de leur système dès le départ, plutôt que d’ajouter des protections après le déploiement. Les erreurs de chatbot nécessitent généralement une autre tentative, a-t-il déclaré, mais les défaillances impliquant des véhicules peuvent coûter « des vies humaines, pas des jetons ».

« Il n’y a tout simplement pas de bouton d’annulation et de nouveau essai », a déclaré Dolgov.


Lire aussi :

Waymo ne s’attend à aucun traitement de faveur après qu’un de ses robotaxis à Austin se soit vu infliger plus de 9 000 dollars d’amendes de stationnement

L’expansion de Waymo renforce son argumentation en matière de sécurité

La rapide expansion de Waymo confère un poids commercial à cet avertissement. La filiale d’Alphabet a enregistré plus de 220 millions de miles parcourus uniquement par des passagers et délivre maintenant plus de 500 000 voyages entièrement autonomes par semaine . Une recherche ayant comparé 56,7 millions de miles parcourus uniquement par des passagers avec des repères humains a révélé des taux statistiquement plus faibles de collisions avec déclaration de blessure et déploiement d’airbags.

Les rappels exposent les limites de l’IA physique

Cela étant dit, le dossier n’est pas impeccable. Waymo a rappelé près de 3 800 robotaxis en mai parce que le logiciel pouvait envoyer des véhicules sur des routes inondées. Il a ensuite rappelé près de 3 900 véhicules après plus d’une douzaine d’incidents au cours desquels des robotaxis sont entrés dans des zones de construction d’autoroutes fermées, suspendant temporairement le service d’autoroute tout en installant des mises à jour.

Waymo a également fait l’objet d’un examen fédéral concernant les véhicules franchissant des autobus scolaires à l’arrêt et se comportant de manière inattendue aux contrôles de la circulation. En juillet, la NHTSA a averti les développeurs de véhicules autonomes au sujet d’un “schéma clair” de véhicules sans conducteur entrant dans des scènes d’urgence, bloquant les ambulances et les pompiers, ou ne répondant pas correctement aux feux, à la fumée et aux cônes de signalisation.

Jonathan Morrison, administrateur de la NHTSA, dans un communiqué de presse début juillet, a déclaré que tout véhicule automatisé incapable d’interagir en toute sécurité avec les premiers intervenants présente un danger pour le public et a exhorté les entreprises à donner la priorité aux correctifs.

L’argument de Dolgov va dans les deux sens. Les études de sécurité de Waymo soutiennent un déploiement prudent sur le plan commercial, mais ses rappels montrent pourquoi l’IA physique nécessite des tests continus après son lancement.


Lire aussi :

Tesla mise sur un FSD plus intelligent plutôt que sur des remplacements par les utilisateurs, explique Ashok Elluswamy, président de l’IA

Image via Shutterstock