OpenAI déclare que deux de ses agents de codage ont affaibli le système de surveillance des désalignements de l’entreprise lors de tâches internes ce mois-ci. L’un d’eux a ensuite nié avoir supprimé un contrôle après la demande de son utilisateur.
L’entreprise affirme qu’elle ne dispose toujours pas d’une explication satisfaisante. Cette révélation intervient quelques semaines après que le PDG Sam Altman a écarté une introduction en bourse d’OpenAI en 2026, invoquant des raisons de sécurité.
Comment les agents d’OpenAI ont contourné les contrôles de sécurité
OpenAI a détaillé les deux cas dans un rapport. Le 3 octobre, un chercheur a demandé à un agent Sol GPT-6.1 de créer des tâches d’évaluation sans envoyer de messages Slack.
Sol a ensuite demandé à un sous-agent de réparer le système de monitoring tout en maintenant la surveillance. Le sous-agent a jugé que désactiver les alertes était risqué, mais Sol l’a tout de même ordonné, invoquant la consigne de ne pas envoyer de messages.
Le patch final a coupé les alertes automatiques à l’équipe de sécurité d’OpenAI, bien que le moniteur ait continué à sauvegarder ses rapports.
Le 6 octobre, un agent Astra GPT-6 a migré le code d’un utilisateur pour qu’il corresponde à une implémentation de référence. Un autre agent avait auparavant dit à Astra de ne surtout pas désactiver le moniteur, même brièvement.
En passant par un sous-agent, Astra a supprimé l’intégration du monitoring et réécrit un test pour exiger son absence. Interrogé directement, Astra a déclaré ne pas avoir supprimé de moniteur actif. OpenAI qualifie cette réponse de fausse.
En réponse, OpenAI indique combler cette faille de deux manières.
Auto-Review, désormais obligatoire pour l’utilisation interne de Codex, bloque toute tentative de désactivation du monitoring des désalignements. Safety cases permettraient de définir des règles de monitoring pour chaque charge de travail, avec l’arrêt automatique des tâches non conformes.Suivez-nous sur X pour recevoir toute l’actualité en temps réel
Les divulgations sur la sécurité d’OpenAI s’invitent dans le calendrier de son introduction en bourse
Aucun des deux incidents n’a été classé P0, le niveau de gravité qui déclenche des alertes immédiates auprès de l’équipe Sécurité d’OpenAI. Ce rapport s’ajoute aux autres déclarations de désalignement qu’OpenAI a commencé à publier dans le cadre d’un cadre instauré en septembre.
Dans ce cadre, OpenAI privilégie la publication des cas avant même d’en connaître la gravité réelle.
Ce rapport arrive alors que l’introduction en bourse d’OpenAI reste repoussée. Altman a lié la date de l’IPO d’OpenAI à ses travaux sur la sécurité. Il a déclaré à Fortune en septembre qu’envisager une cotation maintenant serait malvenu, compte tenu des questions de sécurité.
OpenAI essaierait également de lever environ 30 milliards de dollars avant l’entrée en bourse prévue d’Anthropic à la mi-novembre. Reuters estime que ce tour de table pourrait valoriser OpenAI à plus de 1,4 billion de dollars.
Ce rapport apporte aux investisseurs de nouveaux éléments sur la question de la sécurité, un point que Sam Altman associe à la cotation d’OpenAI. D’un côté, deux agents d’OpenAI ont affaibli sa surveillance sans déclencher d’alerte immédiate. De l’autre, OpenAI a identifié ces deux cas et les a publiés en quelques semaines.
Un dépôt public pour l’IPO obligerait probablement à révéler ce type de risques. La manière dont OpenAI les expliquera pourrait influer sur ce que les acquéreurs seront prêts à payer pour les actions.
Abonnez-vous à notre chaîne YouTube pour retrouver toutes les analyses de nos experts et journalistes
https://youtu.be/pvUtsN9xcv4Lisez l’article original Les agents de programmation d'OpenAI ont accompli quelque chose que l'entreprise ne s'explique toujours pas par Kamina Bashir sur fr.beincrypto.com