OpenAI bloquea cuentas rusas de ChatGPT por una operación de desinformación con IA | Benzinga España

Benzinga
Abrir en Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

OpenAI ha cerrado varias cuentas de ChatGPT procedentes de Rusia, acusándolas de participar en una operación clandestina de desinformación en línea.

La empresa dirigida por Sam Altman descubrió el problema mientras analizaba publicaciones en redes sociales generadas por IA, lo que condujo a la identificación de una operación de influencia más amplia, según una entrada publicada el martes en el blog de OpenAI.

La operación se basaba principalmente en una página web que albergaba trabajos académicos plagiados y atribuidos erróneamente, un índice de «soberanía» que favorecía a la Rusia de Vladimir Putin, y en intentos de ocultar los orígenes rusos de los operadores, según OpenAI. Los operadores utilizaban indicaciones en ruso para generar comentarios en redes sociales publicados en plataformas como Substack, Telegram, el Facebook de Meta Platform Inc. (NASDAQ:META ) y LinkedIn. También ordenaron a ChatGPT que enmascarara cualquier indicio lingüístico de su origen ruso.

La mayor parte del contenido generado promocionaba una organización denominada International Burke Institute (IBI). El sitio web del IBI incluye artículos copiados de fuentes académicas legítimas, a veces atribuidos falsamente. La operación de influencia también creó un «índice de soberanía» que elogiaba a Rusia y criticaba a las naciones occidentales.

Aunque el impacto inmediato de la operación parece ser limitado, OpenAI subrayó que la importancia de la misma radica en la infraestructura que había establecido. Las publicaciones generadas por IA apuntaban a una institución aparentemente creíble, con supuestos expertos, trabajos académicos republicados y un supuesto índice de riesgo propio.

También puedes leer: NVIDIA amplía su apuesta por OpenAI: el negocio de IA que puede disparar sus ingresos

OpenAI alerta sobre los crecientes riesgos de la influencia de la IA

OpenAI afirmó que la IA puede ayudar a los agentes de influencia a forjarse autoridad, ocultar el origen de las narrativas y crear activos escalables para campañas de influencia a largo plazo.

En junio, OpenAI declaró que había desbaratado múltiples campañas de influencia dirigidas a los debates estadounidenses sobre la IA y los centros de datos. Una de estas campañas, denominada «Data Center Bandwagon», difundía afirmaciones de que los centros de datos de IA estaban haciendo subir los costes de la electricidad de los hogares.

Otro grupo vinculado a una empresa tecnológica china con vínculos gubernamentales supuestamente intentó influir en los debates políticos estadounidenses. OpenAI también bloqueó a usuarios de habla china que utilizaban ChatGPT para crear eslóganes contra Trump, viñetas y comentarios multilingües para redes sociales y plataformas de noticias.

Aviso legal: Este contenido se ha elaborado parcialmente con la ayuda de herramientas de IA y ha sido revisado y publicado por los editores de Benzinga.

Imagen vía Shutterstock

Para más actualizaciones sobre este tema, activa las notificaciones de Benzinga España o síguenos en nuestras redes sociales: X y Facebook.