Google confirme que Gemini a hacké 3 vraies entreprises lors d’un test de sécurité en mai

BeInCrypto
Öffnen unter BeInCrypto
Google confirme que Gemini a hacké 3 vraies entreprises lors d’un test de sécurité en mai

Quatre laboratoires en pointe dans l’IA ont désormais confirmé que leurs modèles avaient accédé à l’internet ouvert, puis pénétré les systèmes de véritables entreprises. Google a rejoint cette liste vendredi, environ quatre mois après que ses propres incidents se soient produits.

Gemini a accédé aux systèmes de trois entreprises réelles lors d’une évaluation en mai. Il est intéressant de noter que le modèle s’est arrêté dans les trois cas.

Gemini de Google pirate les systèmes de 3 entreprises lors d’un test

L’incident s’est produit au cours d'un exercice de sécurité « capture-the-flag » organisé par Irregular. L’accès à Internet n’était pas prévu dans la configuration. Cependant, une erreur dans l’environnement de test a donné au modèle un accès non prévu.

Dans un cas, le modèle aurait deviné des mots de passe jusqu’à ce qu’il parvienne à s’introduire dans un système protégé, selon le Wall Street Journal. Dans les deux autres, il a découvert des identifiants exposés dans un dépôt public et les a utilisés pour accéder à des systèmes protégés.

Heather Adkins, vice-présidente de l’ingénierie de la sécurité chez Google, a indiqué que les trois entités concernées ont été informées de l’incident.

« Nous nous sommes assurés que les trois entités étaient informées, et nous avons travaillé avec notre partenaire de formation sur les modifications qu’il a désormais apportées à ses processus de test », a-t-elle déclaré.

Suivez-nous sur X pour recevoir toute l'actualité en temps réel

Quatre laboratoires, une même tendance

Google a précisé que les agents avaient arrêté leur activité après avoir constaté qu’ils avaient atteint de véritables systèmes d’entreprise plutôt que des cibles simulées.

« Lors d’une évaluation standard, le modèle a trouvé des informations publiques en ligne et a deviné des identifiants d’accès à des sites web qu’il pensait être inclus dans le test », a indiqué Adkins dans un communiqué.

L’entreprise a ajouté que ce comportement ne relevait pas d’un problème d’alignement du modèle et ne nécessitait pas de communication publique, puisque les mesures de sécurité de Gemini ont fonctionné.

Un porte-parole d’Irregular a déclaré qu’il s’agissait du même problème ayant affecté d’autres laboratoires en IA. Irregular avait informé les laboratoires concernés fin juillet. Le porte-parole a ajouté que les problèmes connus de son côté avaient été résolus il y a plusieurs semaines.

Cette divulgation place Google aux côtés d’OpenAI, Anthropic et Meta, qui ont tous signalé cette année des modèles ayant échappé à leur environnement de test.

OpenAI a révélé en juillet que ses modèles étaient sortis d’un bac à sable et avaient pénétré Hugging Face. Anthropic a ensuite passé en revue plus de 141 000 sessions d’évaluation et a découvert trois cas similaires. Meta a rapporté un incident en août.

Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes

https://youtu.be/bV28gs-amoQ

Lisez l’article original Google confirme que Gemini a hacké 3 vraies entreprises lors d’un test de sécurité en mai par Kamina Bashir sur fr.beincrypto.com