La division robotique d'OpenAI perd sa principale dirigeante Caitlin Kalinowski à cause d'un désaccord sur les termes de déploiement militaire | Benzinga France

Benzinga
Abrir em Benzinga
La division robotique d'OpenAI perd sa principale dirigeante Caitlin Kalinowski à cause d'un désaccord sur les termes de déploiement militaire | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

Ce samedi, Caitlin Kalinowski a annoncé sa démission de OpenAI, faisant valoir que les potentielles applications de l’IA dans la surveillance des citoyens américains sans mandat judiciaire et dans les systèmes d’armes fonctionnant sans intervention humaine nécessitaient un débat plus approfondi que celui qu’elles ont reçu. Son départ coïncide avec l’expansion d’OpenAI dans des projets classifiés du Pentagone dans le cadre d’un accord qui maintenait en place deux limites énoncées : pas de surveillance de masse sur le territoire national et une exigence de contrôle humain sur toute utilisation de la force.

Dans un post sur X, Kalinowski a déclaré qu’elle estimait toujours que l’IA pouvait avoir de l’importance pour la sécurité nationale, mais elle a défini des limites strictes concernant l’espionnage national sans supervision judiciaire et l’autonomie létale sans autorisation humaine.

Elle a également présenté sa démission comme un appel fondé sur ses valeurs plutôt que sur un différend personnel, tout en disant qu’elle respectait Sam Altman et qu’elle reste fière de ce que son groupe de robotique a construit.

“J’ai démissionné d’OpenAI. Je me soucie profondément de l’équipe de robotique et du travail que nous avons construit ensemble. Ce n’est pas un choix facile. L’IA joue un rôle important dans la sécurité nationale. Mais la surveillance des citoyens américains sans supervision judiciaire et l’autonomie létale sans autorisation humaine sont des lignes qui méritaient une plus grande réflexion. C’est une question de principe, pas de personnes. J’ai un profond respect pour Sam et l’équipe, et je suis fière de ce que nous avons construit ensemble”, a-t-elle écrit dans le post.

I resigned from OpenAI. I care deeply about the Robotics team and the work we built together. This wasn’t an easy call. AI has an important role in national security. But surveillance of Americans without judicial oversight and lethal autonomy without human authorization are…

— Caitlin Kalinowski (@kalinowski007) 7 mars 2026

Elle a partagé le même message dans son post LinkedIn également.

Le départ audacieux de Caitlin Kalinowski suscite le débat

Les préoccupations de Kalinowski font écho aux deux lignes de faille qui déterminent désormais la manière dont les meilleurs laboratoires d’IA négocient avec l’appareil de sécurité nationale des États-Unis : la surveillance sur le territoire national et l’autonomie dans l’usage de la force. Dans son post, elle a déclaré que ces questions n’avaient pas été pesées avec le niveau de délibération auquel elle s’attendait.

Dans le même temps, Altman a décrit le changement de position d’OpenAI, qui est passé d’une posture d’évitement des engagements classifiés à une posture d’acceptation, avec le Département de la Guerre, qualifiant ce changement d’urgent et de plus complexe que le travail précédent. Il a également déclaré qu’OpenAI avait précédemment refusé des opportunités classifiées que le laboratoire rival Anthropic avait acceptées.

L’accord avec le Pentagone tel que décrit par Altman a permis de garder deux garde-fous intacts tout en ajoutant des mesures opérationnelles, telles que la présence d’ingénieurs d’OpenAI sur place pour surveiller le comportement et la sécurité des modèles. Altman a également déclaré que la société construirait des contraintes techniques destinées à empêcher les systèmes de dépasser les limites prévues, et que le Département de la Guerre souhaitait également ces protections.

Négociations sur la sécurité de l’IA au milieu d’un accord avec le Pentagone

Cette démission fait suite au récent accord du Pentagone d’OpenAI, qui a été conclu quelques heures seulement après que l’administration Trump a mis sur liste noire le rival Anthropic pour avoir refusé de supprimer des clauses de sécurité similaires de leur propre accord. Le PDG d’OpenAI, Sam Altman, a souligné que le Département de la Guerre avait accepté deux principes fondamentaux : l’interdiction de la surveillance de masse sur le territoire national et l’exigence d’une surveillance humaine dans l’utilisation de la force.

Cette situation en évolution met en lumière les approches contrastées des deux sociétés, le refus d’Anthropic d’ajuster ses conditions ayant conduit à une désignation de “risque pour la chaîne d’approvisionnement” de la part du secrétaire à la Défense Pete Hegseth, tandis qu’OpenAI a réussi à négocier des conditions conformes à la législation et à la politique américaines en vigueur. Ce contraste soulève des questions sur les implications éthiques de l’IA en matière de sécurité nationale, notamment en ce qui concerne la surveillance et les armes autonomes.

L’accord avec le Pentagone : un tournant critique

Lorsque Anthropic a refusé de modifier sa position, le secrétaire à la Défense Pete Hegseth a qualifié la société de “risque pour la chaîne d’approvisionnement”, et le président Donald Trump a demandé aux agences fédérales et aux entrepreneurs militaires de rompre tout lien avec la société. Anthropic a déclaré vendredi qu’il était “profondément attristé”, qu’il considérait cette désignation comme “juridiquement infondée” et qu’il avertissait qu’elle “établirait un précédent dangereux pour toute société américaine négociant avec le gouvernement”.

Altman a également déclaré qu’OpenAI avait négocié de manière à ce que des conditions comparables puissent être disponibles pour d’autres développeurs d’IA, et pas seulement pour sa société. Néanmoins, le résultat reste saisissant : OpenAI affirme avoir obtenu l’acceptation des deux garde-fous, tandis qu’Anthropic s’est retrouvé sur liste noire malgré la description de lignes rouges similaires.

Altman a déclaré que le Département de la Guerre considérait les principes comme cohérents avec la législation et la politique américaines en vigueur, et il a présenté le mouvement rapide d’OpenAI comme une tentative d’éviter ce qu’il considérait comme une trajectoire compétitive dangereuse entre les laboratoires d’IA. La démission de Kalinowski, en revanche, met en lumière la façon dont un talent interne peut réagir lorsque les mêmes limites sont perçues comme n’ayant pas été suffisamment examinées.