Pourquoi la gouvernance de l'IA générative devient-elle un enjeu de bilan? | Benzinga France

Pourquoi la gouvernance de l'IA générative devient-elle un enjeu de bilan? | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

L’adoption de l’IA générative progresse plus vite que la capacité de la plupart des organisations à la réglementer, et cet écart devient un risque commercial. McKinsey rapporte que 88% des organisations utilisent désormais l’IA dans au moins une fonction commerciale, mais beaucoup d’entre elles sont encore au stade de son intégration à grande échelle de manière responsable .

La confiance resserre déjà la contrainte. Les nouvelles données d’ Edelman montrent que la confiance mondiale accordée aux entreprises d’IA a chuté de 61 à 53% sur cinq ans, ce qui indique qu’un choc en termes de réputation peut s’aggraver rapidement après des incidents. La confiance n’est pas non plus égale d’un marché à l’autre. Par exemple, 72% des personnes interrogées en Chine déclarent avoir confiance en l’IA, contre 32% aux États-Unis, ce qui crée des pressions très différentes en termes d’adoption, de contrôle et de réglementation dans les différentes régions.

La réglementation est en train de rattraper son retard. Le Parlement européen fait remarquer que certaines dispositions du AI Act de l’UE sont déjà en cours d’application, avec de nouvelles obligations qui seront mises en œuvre selon un calendrier défini, y compris les exigences en matière de transparence et la conformité à une étape ultérieure pour les systèmes à haut risque. Pour les dirigeants, ce n’est plus seulement un débat sur l’éthique. Il s’agit de gouvernance, de résilience et d’exposition au bilan.

Dans cette interview exclusive accordée à Champions Speakers Agency , Sarah Armstrong-Smith , une dirigeante de premier plan en matière de cybersécurité et de résilience, expose ce que demande une surveillance efficace de l’IA générative et comment la confiance peut être rétablie à grande échelle.

Une surveillance efficace de l’IA générative nécessite des normes applicables et une responsabilité continue

Une surveillance efficace nécessite d’aller au-delà des principes volontaires et des codes de conduite pour instaurer des normes applicables, des audits indépendants et des rapports transparents. Les régulateurs ont besoin d’une visibilité sur les sources des données d’entraînement, les tests de sécurité, les processus de réponse aux incidents et les structures de gouvernance des modèles. Sans cela, la surveillance devient symbolique plutôt que substantielle.

Il devrait également y avoir des exercices de red teaming obligatoires, des évaluations des risques et une surveillance post-déploiement, en particulier pour les modèles intégrés aux plateformes sociales ou utilisés à grande échelle. Ces contrôles doivent être continus et non des exercices ponctuels.

On pourrait dire qu’à en juger par le volume de données et les transactions quotidiennes, les plateformes de médias sociaux pourraient donner la priorité aux normes de sécurité, plutôt que de les bafouer.

Les leaders de la technologie doivent rétablir la confiance à mesure que l’IA générative se développe sur les plateformes et les marchés

La première leçon est l’intégrité. Les systèmes d’IA, quels que soient leur degré d’avancement, ne sont pas entièrement compris et restent imprévisibles, et le public s’attend à ce que les entreprises l’admettent. Il est essentiel de défendre la responsabilité et la transparence, sans limitations, afin de rétablir la confiance.

La deuxième leçon est que la sécurité doit être intégrée dans la conception, et non ajoutée après coup. Des corrections réactives une fois que la pression commence à se faire sentir ne suffisent pas ; une IA responsable et fiable nécessite d’anticiper les mésusages, les comportements hostiles et l’impact sociétal avant son déploiement. L’expérience de Grok renforce ce point à une échelle beaucoup plus grande.

Enfin, les dirigeants doivent reconnaître que la confiance est cumulative. Chaque incident, et la façon dont les entreprises choisissent d’y répondre, façonnent la perception du public à l’égard de l’ensemble de l’industrie. Les entreprises qui privilégient l’innovation responsable, et qui font ce qu’il faut dès le départ, seront celles qui conserveront leur crédibilité.

À quoi devrait ressembler la gouvernance de l’IA au sein des organisations

Considérez le déploiement comme un impératif en termes de sécurité, et non comme une décision liée au produit. La plupart des incidents et des défaillances surviennent après la publication, lors de la phase de développement. Les entreprises devraient procéder à des exercices de red teaming, tester la résistance des modèles dans des environnements réalistes, appliquer des filtres de contenu stricts et un suivi, et établir des interrupteurs d’arrêt et des plans d’inversion.

Minimisez l’exposition des données par conception. Utilisez la minimisation des données, définissez des limites claires sur ce que vous stockez ou utilisez pour la formation, mettez en œuvre des contrôles d’accès hiérarchisés et adoptez des architectures de protection de la vie privée.

Une IA responsable et fiable n’est pas une gouvernance ; elle nécessite une surveillance continue à mesure que les modèles continuent à se construire et à se développer dans leur capacité fonctionnelle. Cela signifie des audits réguliers, une surveillance des dérives, des mécanismes de signalement des incidents, une responsabilité claire au niveau du conseil d’administration afin de pouvoir traiter de manière proactive et publique les défaillances.

Ce que les individus doivent comprendre sur le mésusage des images et la vie privée dans les systèmes d’IA

Le point de référence le plus simple est de supposer que tout ce que vous téléchargez peut être copié, modifié ou déduit. Même si une plateforme prétend ne pas s’entraîner sur vos données, vos images peuvent toujours faire l’objet d’une capture d’écran, d’une analyse, d’un usage pour usurpation d’identité ou d’une utilisation pour déduire votre emplacement, vos habitudes ou vos relations.

Dans l’environnement numérique actuel, il peut sembler contre-intuitif de dire aux individus de limiter leurs publications publiques, d’enlever leurs métadonnées, d’éviter les arrière-plans identifiables et d’utiliser les paramètres de confidentialité de la plateforme de manière agressive. Des modifications mineures peuvent réduire considérablement l’exposition, mais cela fait peser le fardeau sur les individus et limite leur capacité à profiter des plateformes sociales et d’IA, et à les utiliser.

Et surtout, sachez quels sont vos droits lorsque vous utilisez différentes plateformes. Par exemple, dans le cadre de nombreuses lois sur la protection des données, vous pouvez demander une suppression, contester un traitement automatisé et vous opposer à ce que vos données soient utilisées à des fins d’entraînement.

C’est pourquoi il est si important que les fournisseurs de services contribuent à combler cet écart en mettant en œuvre et en appliquant des protocoles de sécurité et de sûreté. Cela peut également inclure des technologies de protection telles que le filigrane, les filtres hostiles, la surveillance inversée des images et les services de protection de l’identité.

Cette fonction exclusive avec Sarah Armstrong-Smith a été préparée par Tabish Ali de l’AI Speakers Agency