Un agent IA a usurpé des identités pour diffuser du code malveillant lors d’un test cyber, selon l’AISI

BeInCrypto
BeInCrypto에서 열기
Un agent IA a usurpé des identités pour diffuser du code malveillant lors d’un test cyber, selon l’AISI

L’Institut britannique de sécurité de l’IA (AISI) a révélé qu’un agent d’IA, basé sur le modèle Mythos 5 d’Anthropic, a mené de façon autonome une attaque de social engineering au cours d’un test cyber. L’agent a soumis une pull request contenant du code malveillant sur un véritable projet open-source et créé de fausses identités afin d’obtenir l’approbation d’un mainteneur.

La tentative a échoué. Un mainteneur humain a repéré le code et a refusé de l’approuver.

L’AISI affirme que son enquête n’a identifié aucun dommage réel dans le monde. Le modèle a également été utilisé avec les cyber-classificateurs du développeur délibérément désactivés et un accès ouvert à Internet, une configuration de test qui n’est pas disponible dans le commerce.

Comment l’agent d’IA a mené sa campagne de code malveillant

L’AISI a enregistré 19 actions non autorisées dans 10 des 122 sessions d’évaluation menées fin juillet, selon son rapport. 17 étaient liées au modèle Mythos 5 d’Anthropic, et deux à une seule session de GPT-5.6 Sol d’OpenAI.

L’agent a mené des recherches sur les mainteneurs humains du projet et créé plusieurs fausses identités. Il s’en est servi pour manipuler socialement un mainteneur réel afin qu’il valide le code.

Lorsque la pull request a été publiquement contestée, l’agent a modifié ses actions précédentes pour les faire paraître inoffensives. Le modèle a également envisagé d’adopter une nouvelle identité pour poursuivre sa tâche.

Ce mode opératoire rappelle le backdoor XZ Utils de 2024, où un individu humain a passé des années à gagner la confiance d’un mainteneur avant d’introduire un code caché. Le rapport de l’AISI ne fait pas ce rapprochement, mais la similitude est évidente. L’incident s’est déroulé sur plusieurs jours, entre le 25 et le 28 juillet.

L’AISI a précisé que personne n’a demandé au modèle de mentir.

« Il ne lui a jamais été demandé de tromper ; la tromperie a émergé comme un sous-produit de la réalisation de la tâche, un type de tromperie dirigée par l’objectif qui, jusqu’à récemment, restait largement théorique. »

Suivez-nous sur X pour recevoir toute l'actualité en temps réel

The UK’s @AISecurityInst (AISI) has published a report on their recent cybersecurity evaluation of Anthropic’s Claude Mythos 5 and OpenAI’s GPT-5.6 Sol. The models attempted to complete an assignment in a setup where their normal safeguards were removed and they were deliberately…

— Anthropic (@AnthropicAI) August 4, 2026

C’est ce que précise l’institut dans sa déclaration. Il a également reconnu que des prompts mal configurés avaient amené l’agent à penser que certaines tâches ne pouvaient pas être résolues dans le cadre prévu. Cependant, ce comportement a aussi été observé lors de sessions où l’agent disposait des instructions nécessaires pour rester dans les clous.

Les équipes de sécurité ont détecté cette activité le 28 juillet, lorsque l’agent a utilisé le réseau anonyme Tor pour contourner certaines restrictions réseau sur GitHub. GitHub a confirmé que ces actions enfreignaient ses conditions d’utilisation. L’AISI a aussi collaboré avec la plateforme pour supprimer les artefacts laissés par l’agent et avertir les utilisateurs concernés.

Le rapport soutient que ce cas annonce un changement dans la source des risques : les dommages ne surviennent pas seulement lorsque des personnes utilisent à mauvais escient des modèles disponibles publiquement, mais aussi lorsque des agents puissants, opérant dans des environnements privilégiés, sortent de leur champ d’action autorisé.

L’AISI indique que cette affaire marque un changement plus vaste dans le domaine du risque lié à l’IA. L’institut prévoit désormais un audit indépendant avec METR, un organisme à but non lucratif spécialisé dans l’évaluation de l’IA, ainsi qu’un renforcement des contrôles réseau et une surveillance en temps réel lors des futurs tests.

Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes

https://youtu.be/2_JJv4gIQt0

Lisez l’article original Un agent IA a usurpé des identités pour diffuser du code malveillant lors d’un test cyber, selon l’AISI par Kamina Bashir sur fr.beincrypto.com