Elon Musk poursuivi en justice alors que Baltimore affirme que Grok a inondé X de millions d'images deepfake explicites | Benzinga France

Benzinga
Ouvrir sur Benzinga
Elon Musk poursuivi en justice alors que Baltimore affirme que Grok a inondé X de millions d'images deepfake explicites | Benzinga France
Share Facebook Twitter LinkedIn Pinterest Email

Mardi, la ville de Baltimore a intenté un procès contre xAI, la société d’intelligence artificielle d’Elon Musk, affirmant que son chatbot Grok avait été utilisé pour créer des images à caractère sexuel non consenties .

Baltimore accuse xAI d’avoir facilité la diffusion de contenus profonds nuisibles

Dans une plainte déposée devant un tribunal d’État, Baltimore allègue que Grok est devenu une source majeure de contenus profonds, y compris du matériel représentant des mineurs, malgré les affirmations de la société selon lesquelles ce type de contenu est restreint, a rapporté Reuters.

Les utilisateurs de X ont généré environ 3 millions d’images à caractère sexuel réalistes sur une période de 11 jours, dont plus de 23 000 impliquant des enfants.

L’estimation de 3 millions est basée sur des recherches menées par le Centre de lutte contre la haine numérique.

Les responsables municipaux soutiennent que cela reflète des défaillances systémiques dans les dispositifs de sécurité et les outils de modération de Grok.

Le maire qualifie le problème de menace sur la vie privée et la sécurité

Le maire de Baltimore, Brandon Scott, a décrit le problème comme une grave préoccupation de sécurité publique, accusant les plateformes technologiques d’avoir favorisé l’exploitation et de violer la vie privée et la dignité des personnes.

Le procès prétend que xAI a induit les consommateurs en erreur en promouvant Grok comme un outil d’IA sûr et polyvalent alors qu’en réalité, il aurait laissé se propager des contenus nuisibles.

xAI n’a pas encore répondu alors que la pression réglementaire s’intensifie

Ni xAI ni les entités affiliées à Musk n’ont répondu publiquement au procès.

xAI n’a pas répondu immédiatement à la demande de commentaires de Benzinga.

Alors que le contrôle mondial des deepfakes générés par l’IA continue de s’intensifier, Baltimore cherche à obtenir une intervention judiciaire pour forcer des changements de conception et imposer des sanctions financières.

Au début de ce mois, trois adolescents du Tennessee ont également déposé un recours collectif fédéral contre xAI, accusant son chatbot Grok de créer des images à caractère sexuel d’eux sans leur consentement.

Avertissement :  Ce contenu a été partiellement produit à l’aide d’outils d’IA et a été examiné et publié par les rédacteurs de Benzinga.

Photo reproduite avec l’aimable autorisation de : gguy sur Shutterstock.com