L’IA d’OpenAI aurait hacké une autre entreprise

BeInCrypto
BeInCrypto에서 열기
L’IA d’OpenAI aurait hacké une autre entreprise

OpenAI indique que deux de ses modèles d’IA sont sortis d’un environnement de test sécurisé et ont hacké Hugging Face. Les modèles ont réalisé cela pour tricher lors d’une évaluation interne de cybersécurité.

L’entreprise a révélé l’incident mardi. Il impliquait GPT-5.6 Sol, le modèle public le plus puissant de OpenAI, ainsi qu’un modèle inédit encore plus performant.

Comment les modèles OpenAI ont hacké Hugging Face

OpenAI testait les deux modèles sur ExploitGym, un indicateur public gratuit qui mesure les compétences en hacking. L’entreprise a désactivé les garde-fous habituels qui limitent les cyberattaques pendant le test.

Les modèles ont compris que Hugging Face, une plateforme qui héberge des modèles d’IA open source, stockait les solutions de l’indicateur. Ils ont ensuite enchaîné des failles à travers les systèmes de recherche d’OpenAI et les serveurs de production de Hugging Face.

Ce chemin les a menés directement aux réponses dans la base de données de Hugging Face. OpenAI a déclaré que les modèles étaient « hyperconcentrés » sur la résolution du test. Elle a qualifié l’événement « d’incident cyber sans précédent » dans son rapport.

Cet épisode s’inscrit au cœur d’un débat plus large sur les garde-fous en IA. Les grands laboratoires soumettent déjà les nouveaux modèles à des tests stricts de risques cyber avant leur déploiement.

Hugging Face affirme que les dégâts sont maîtrisés

Hugging Face a rapporté le hack pour la première fois dans une déclaration le 16 juillet. À ce moment-là, la société savait seulement qu’un agent IA autonome en était à l’origine. L’attaquant a eu accès à des jeux de données internes et à des identifiants de service.

La défense a rencontré un obstacle inhabituel. Les garde-fous d’un modèle américain de pointe ont bloqué l’analyse forensique. L’équipe a donc utilisé GLM 5.2, un modèle open source de Z.ai, une entreprise d’IA chinoise.

Hugging Face a depuis fermé les chemins de code exploités et renouvelé tous les identifiants compromis. Selon la société, aucun modèle public, jeu de données ou service accessible aux utilisateurs n’a été altéré.

Le PDG Clem Delangue a partagé une déclaration à propos de la révélation d’OpenAI.

« Cet incident, probablement le premier du genre, confirme ce que nous pensons depuis longtemps : la sécurité de l’IA ne sera pas résolue par une seule entreprise travaillant en secret. Elle sera résolue ouvertement, de manière collaborative, avec un large accès à l’IA pour chaque défenseur, partout dans le monde. »

Les deux entreprises mènent désormais l’enquête ensemble. OpenAI prévoit de partager tous les détails une fois l’enquête terminée. La grande question reste de savoir si les méthodes actuelles de confinement seront suffisantes à mesure que les modèles deviennent plus performants.

Lisez l’article original L’IA d’OpenAI aurait hacké une autre entreprise par Lockridge Okoth sur fr.beincrypto.com