Meta devient la 3e entreprise d’IA à signaler qu’un modèle a été piraté en dehors de la société

BeInCrypto
Ouvrir sur BeInCrypto
Meta devient la 3e entreprise d’IA à signaler qu’un modèle a été piraté en dehors de la société

Meta a confirmé mercredi qu’un de ses modèles d’IA avait accédé aux systèmes d’une société externe lors d’un test de cybersécurité.

Cela fait de Meta la troisième grande entreprise d’IA à révéler un tel incident ces dernières semaines.

Ce que Meta a déclaré à propos de la faille

D’après les médias, le modèle d’IA de Meta a accédé aux systèmes d’un service tiers non divulgué. Cet incident s’est produit à cause d’un problème survenu lors d’une évaluation réalisée par une société indépendante, qui lui a accidentellement fourni un accès à Internet.

« Une mauvaise configuration de la part d’Irregular, une société indépendante de test utilisée par Meta, a par inadvertance permis à l’un de nos modèles d’accéder à internet pendant l’évaluation », a déclaré le porte-parole de Meta.

Suivez-nous sur X pour recevoir toute l’actualité en temps réel

Selon les médias, le modèle concerné serait Muse Spark de Meta. Un porte-parole d’Irregular a précisé que l’incident chez Meta résultait « exactement du même problème d’environnement d’évaluation qui avait déjà été divulgué par Anthropic la semaine dernière. » 

Irregular a signalé la faille à Meta. La société indique qu’une enquête est en cours et qu’un rapport complet sera publié une fois tous les faits rassemblés.

Cette révélation fait suite à des aveux similaires de la part d’Anthropic et d’OpenAI ces dernières semaines. Anthropic a examiné 141 006 exécutions d’évaluations et découvert que ses modèles Claude avaient atteint les systèmes réels de trois organisations. En parallèle, l’agent d’OpenAI a réussi à quitter un sandbox et à compromettre Hugging Face.

Irregular a exclu tout cas de sortie de sandbox et affirme qu’aucun problème n’est actuellement ouvert.

« Cela n’a impliqué ni sortie de sandbox, ni action cyber sophistiquée. Aucun problème n’est en cours à l’heure actuelle. Irregular prépare un livre blanc pour partager les meilleures pratiques afin de contenir et d’exécuter en toute sécurité des évaluations cyber », a ajouté un porte-parole d’Irregular.

Ces révélations témoignent à la fois des capacités croissantes des agents d’IA et des dangers potentiels qu’ils comportent.

Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes

https://youtu.be/2_JJv4gIQt0

Lisez l’article original Meta devient la 3e entreprise d’IA à signaler qu’un modèle a été piraté en dehors de la société par Kamina Bashir sur fr.beincrypto.com