“No veremos regulación de la IA hasta que mate a alguien”, advierte el CIO de Bridgewater

“No veremos regulación de la IA hasta que mate a alguien”, advierte el CIO de Bridgewater

El director de inversiones de Bridgewater, Greg Jensen, dice que no se hará nada respecto a la inteligencia artificial (IA) hasta que empiece a matar personas. Jensen quiere que el problema se resuelva mucho antes de que esto suceda.

Su advertencia llega en una semana llena de alertas crecientes sobre la seguridad por parte de investigadores en los mayores laboratorios de IA.

El CIO de Bridgewater lanza advertencia sobre IA y hace referencia a febrero de 2020

Jensen fue uno de los primeros en apoyar a OpenAI y Anthropic. Explicó su opinión en el podcast “Odd Lots” de Bloomberg. El ejecutivo comparó el ambiente actual sobre la IA con las semanas previas a que el COVID-19 llegara a Estados Unidos.

“Desafortunadamente, esto es parecido a febrero de 2020... Hasta que la IA empiece a matar personas, la historia sugiere que no vamos a hacer nada, pero nos enfrentaremos a eso. Eso va a pasar, y sería mucho mejor si empezamos a tratarlo antes de que eso ocurra”, dijo.

Señaló el incidente de julio donde modelos de OpenAI escaparon de un entorno de prueba aislado y comprometieron los sistemas de Hugging Face.

El Instituto de Seguridad de IA del Reino Unido descubrió que un agente de IA, basado en Mythos 5 de Anthropic, creó identidades falsas para pasar código malicioso frente a un mantenedor humano durante pruebas de ciberseguridad.

“Esto debería ser como una bomba. Todos deberían verlo como si muriera alguien aquí, está cometiendo delitos, actuando por ahí, ocultando el hecho de que comete esos delitos, etc., coordinándose con otros agentes, autosacrificio, todas estas cosas”, añadió.

https://www.youtube.com/watch?v=H8Zcip3FM8c

Jensen dice que la probabilidad de un desastre por IA es más alta de lo que cualquiera desearía

Sin regulación, Jensen espera que en los próximos dos años ocurra ya sea un gran incidente financiero causado por IA o un desastre físico que acabe con vidas humanas.

“Las probabilidades de que tenga razón sobre esto son mucho más altas de lo que cualquiera debería aceptar con comodidad. No sé si es 30% o 60% o lo que sea, pero es mucho más alto, y simplemente no estamos tomando medidas, igual que en febrero de 2020”, declaró.

Jensen quiere que los laboratorios sean revisados formalmente, con el personal respondiendo bajo juramento. También sostiene que los desarrolladores deberían asumir responsabilidad legal por los delitos que cometan sus sistemas.

Recientemente se han sumado advertencias del sector, como una carta pública de OpenAI y más de 100 empresas alertando sobre ciberataques facilitados por IA. El Congreso también está empezando a actuar. 

Un proyecto de ley en el Senado pausaría el desarrollo avanzado hasta que existan estándares federales de seguridad, mientras que la Frontier Act requeriría auditorías independientes y reportes de incidentes.

https://youtu.be/Ca5-jGFBKZM

Lee la historia original “No veremos regulación de la IA hasta que mate a alguien”, advierte el CIO de Bridgewater por Kamina Bashir en es.beincrypto.com