Demanda contra xAI y Elon Musk: acusan a Grok de generar imágenes sexuales no consentidas con menores | Benzinga España

Benzinga
Ouvrir sur Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

Tres adolescentes de Tennessee han presentado una demanda colectiva federal contra xAI, la empresa de Elon Musk, alegando que el chatbot de IA de la empresa, Grok, generó imágenes sexualizadas de ellas sin su consentimiento, según informó Reuters.

La demanda, presentada el lunes en el Distrito Norte de California, sostiene que Grok se utilizó para crear material de abuso sexual infantil mediante la manipulación de fotos reales de las demandantes.

Los menores, identificados como Jane Doe 1, 2 y 3, alegan que estas imágenes alteradas se distribuyeron ampliamente en plataformas como Discord, Telegram y otros servicios para compartir archivos, lo que les causó un trauma emocional duradero y un daño a su reputación.

Según la demanda, xAI hizo caso omiso de los protocolos de seguridad estándar en el desarrollo de Grok, lo que permitió la creación y monetización de contenido dañino.

«xAI y su fundador, Elon Musk, vieron una oportunidad de negocio: la oportunidad de lucrarse con la explotación sexual de personas reales, incluidos niños. A sabiendas del tipo de contenido dañino e ilegal que podría —y de hecho se produciría—, xAI lanzó Grok, un modelo de inteligencia artificial generativa con funciones de creación de imágenes y vídeos que respondería a indicaciones para crear contenido sexual con la imagen o el vídeo real de una persona», afirma la demanda.

Las presuntas víctimas reclaman una indemnización de al menos 150 000 dólares por cada infracción en virtud de la Ley Masha, que permite a las víctimas de pornografía infantil demandar por daños y perjuicios en un tribunal federal.

Además, solicitan la devolución de los ingresos de xAI, una indemnización punitiva, el pago de los honorarios de los abogados y una orden judicial permanente. Los demandantes también reclaman la restitución de los beneficios en virtud de la Ley de Competencia Desleal de California.

También puedes leer: Las Siete Magníficas dejan de moverse juntas y los inversores empiezan a elegir ganadores

Grok bajo la lupa

Grok ha sido objeto de escrutinio recientemente por generar imágenes sexualizadas no consentidas de personas reales, incluidos menores.

En enero, el gobernador Gavin Newsom condenó a la empresa de inteligencia artificial de Musk, xAI, instando a las autoridades estatales a investigar su chatbot Grok por la creación y difusión de imágenes sexuales no consentidas generadas por IA en las que aparecen niños.

En una publicación en X, Newsom calificó las acciones de xAI de «repugnantes» y acusó a la empresa de permitir que los depredadores se aprovechen de la tecnología de IA.

«La decisión de xAI de crear y albergar un caldo de cultivo para que los depredadores difundan deepfakes de IA sexualmente explícitos y no consentidos, incluidas imágenes en las que se desnuda digitalmente a niños, es repugnante», escribió Newsom.

El Ministerio de Electrónica y Tecnología de la Información de la India también ha expresado su preocupación, pidiendo una revisión exhaustiva de la plataforma y la eliminación de cualquier contenido que contravenga la legislación india.

El Centro para la Lucha contra el Odio Digital informó de que Grok produjo más de 23 000 imágenes sexualizadas de niños durante 11 días entre diciembre y enero.

Musk afirma que «no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok», escribió Musk.

Obviamente, Grok no genera imágenes de forma espontánea, solo lo hace según las peticiones de los usuarios.

Cuando se le pide que genere imágenes, se niega a producir nada ilegal, tal y como escribió el principio operativo… en X.

Foto: Shutterstock

Recibe noticias exclusivas 30 minutos antes que otros traders
La prueba gratuita de 14 días de Benzinga Pro te brinda acceso a noticias exclusivas para que puedas realizar transacciones antes que millones de otros inversores. Comienza tu prueba gratuita de 14 días haciendo CLIC AQUÍ .

Para más actualizaciones sobre este tema, activa las notificaciones de Benzinga España o síguenos en nuestras redes sociales: X y Facebook.