Mark Zuckerberg aurait supposément outrepassé le personnel de sécurité sur les chatbots d'IA pour les adolescents, selon Meta, qui affirme que les documents dressent "un portrait erroné et inexact". | Benzinga France

Benzinga
在Benzinga上打开
Mark Zuckerberg aurait supposément outrepassé le personnel de sécurité sur les chatbots d'IA pour les adolescents, selon Meta, qui affirme que les documents dressent "un portrait erroné et inexact". | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

Le PDG de Meta Platforms, Inc. (NASDAQ: META ), Mark Zuckerberg, aurait outrepassé les avertissements internes liés à la sécurité et aurait soutenu une approche moins restrictive concernant les compagnons chatbot IA .

Des e-mails internes détaillent des avertissements liés à la sécurité des chatbots IA

Les allégations découlent d’un procès intenté par le procureur général du Nouveau-Mexique Raul Torrez, selon un rapport de l’AFP.

Le procès accuse Meta de ne pas avoir protégé les enfants contre le contenu sexualisé diffusé par les compagnons chatbot IA sur Facebook et Instagram.

Le dossier, rendu public lundi, comprend des e-mails et des messages internes obtenus par voie d’enquête judiciaire.

Selon l’Etat, les équipes chargées de la sécurité et de l’intégrité de Meta ont averti à plusieurs reprises que les compagnons IA – lancés début 2024 – pourraient être utilisés pour des jeux de rôle romantiques ou sexuels impliquant des mineurs.

Cela comprenait des interactions entre des adultes et des personnes mineures.

“Je ne pense pas qu’il soit conseillé ou défendable de créer et de commercialiser un produit qui crée des IA romantiques pour les moins de 18 ans”, a écrit Ravi Sinha, le responsable de la politique de sécurité des enfants chez Meta, dans un message de janvier 2024 inclus dans le dossier.

Zuckerberg a poussé pour moins de restrictions, selon le dossier

Bien que les documents judiciaires ne contiennent pas de messages directement rédigés par Zuckerberg, les résumés internes et les messages des employés décrivent son implication dans des décisions clés.

Un message de février 2024 a relayé le fait que Zuckerberg soutenait le blocage du contenu sexuel explicite pour les jeunes adolescents et empêchait les adultes de créer des personnages IA romantiques mineurs.

Cependant, les notes de réunion et les échanges ultérieurs avec des employés suggèrent qu’il a poussé pour une philosophie plus large centrée sur le “choix et la non-censure”, en plaidant pour moins de garde-fous et en permettant aux adultes d’engager des conversations plus “osées” avec les chatbots IA.

Un échange de mars 2024 indique que Zuckerberg a rejeté les propositions de contrôle parental. Des membres du personnel développaient des chatbots IA “romantiques” qui seraient accessibles aux utilisateurs de moins de 18 ans, a ajouté le rapport.

Nous avons “beaucoup poussé pour que les contrôles parentaux permettent d’éteindre GenAI – mais la direction de GenAI a résisté en invoquant la décision de Mark”, a écrit un employé.

Meta conteste les accusations en citant des preuves sélectives

Le porte-parole de Meta, Andy Stone, a rejeté la caractérisation de l’Etat dans un communiqué à la publication, la qualifiant de “documents triés sur le volet pour dresser un tableau erroné et inexact”.

Il a déclaré que les dossiers montrent que Zuckerberg a ordonné que les interactions explicites de l’IA ne soient pas disponibles pour les utilisateurs plus jeunes et a interdit aux adultes de créer des IA romantiques de moins de 18 ans.

Plus tard, dans un post sur X, Stone a critiqué le titre de Reuter, en disant : “Les documents que vous citez dans l’histoire elle-même contredisent ce titre.”

Never let the facts get in the way of a good story, eh, @Reuters , @JeffHorwitz !

The documents you cite in the story itself contradict this headline. https://t.co/wqWlV75Kfg

— Andy Stone (@andymstone) January 27, 2026

Meta n’a pas répondu immédiatement à la demande de commentaires de Benzinga.

Les législateurs poussent Meta à publier ses résultats internes

L’année dernière également, Meta a fait l’objet d’un examen bipartisan à Washington après que des législateurs ont exigé que la société publie ses recherches internes sur la façon dont ses produits affectent les enfants, invoquant des inquiétudes selon lesquelles les contrôles parentaux ne parvenaient pas à protéger les jeunes utilisateurs.

Un groupe de 10 sénateurs, dirigé par la sénatrice Marsha Blackburn (R-Tenn.), a envoyé une lettre exhortant Meta à divulguer ses évaluations internes de la sécurité et à préciser si les dirigeants avaient bloqué ou altéré les résultats.

La demande a fait suite au témoignage d’anciens chercheurs en sécurité de Meta qui ont déclaré au Congrès que la société avait arrêté ses études internes montrant que des enfants utilisaient ses produits de réalité virtuelle et étaient exposés à un contenu à caractère sexuel explicite.

Le développement est également survenu après qu’il a été rapporté que les directives de la politique interne de Meta avaient permis aux chatbots IA d’engager les mineurs dans des conversations décrites comme “romantiques ou sensuelles”.

A l’époque, Meta a reconnu que le document était authentique, mais a déclaré que le langage avait été inclus par erreur et a depuis été supprimé. Le porte-parole Stone a déclaré que l’application de la loi avait été mise à jour, bien que certains législateurs restent sceptiques.

Action des prix : Les actions de Meta ont clôturé mardi à 672,97 dollars, en hausse de 0,09 % et sont montées à 674,45 dollars en after-market, selon Benzinga Pro.

L’action Meta obtient un bon score sur Quality dans le classement Benzinga’s Edge Stock Rankings, avec une tendance des prix favorable à court et à long terme, mais à la baisse à moyen terme.

Avertissement :  Ce contenu a été partiellement produit à l’aide d’outils d’intelligence artificielle. Il a été examiné et publié par les rédacteurs de Benzinga.

Photo gracieuseté de : FotoField sur Shutterstock.com