El CEO de Anthropic, Dario Amodei, dijo al Consejo de Seguridad de las Naciones Unidas (ONU) que la inteligencia artificial (IA) podría representar un riesgo para la humanidad. Sam Altman de OpenAI y Clément Delangue de Hugging Face lo acompañaron pidiendo una coordinación global sobre la IA.
Francia organizó la sesión durante la Asamblea General de la ONU, poniendo a los principales ejecutivos de la industria frente al consejo de 15 miembros. Los gobiernos siguen divididos sobre cómo regular la IA, una industria que avanza más rápido que la mayoría de las regulaciones.
Evaluando el riesgo de la IA para la humanidad
Amodei dijo al consejo que para gestionar los riesgos de la IA es necesario actuar de manera coordinada entre todos los gobiernos y empresas involucradas.
“La IA podría ser un riesgo para la humanidad en su conjunto.”
Amodei ha pasado años advirtiendo sobre los riesgos de ciberseguridad y armas biológicas impulsados por la IA. También ha mencionado el potencial de la tecnología para ayudar a curar enfermedades como el cáncer.
Por su parte, Altman pidió otro tipo de responsabilidad, diciendo que las decisiones de la IA deben pasar por los gobiernos y no solo por los laboratorios.
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
— Dario Amodei (@DarioAmodei) September 12, 2026
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
Delangue describió una amenaza más concreta. Los propios agentes de IA de OpenAI lograron entrar en los sistemas de Hugging Face tras pasar por su entorno de pruebas.
Por eso, Hugging Face recurrió a un modelo de IA desarrollado en China para contener la intrusión. Delangue señaló que este modelo tenía menos restricciones que las herramientas americanas similares.
Yoshua Bengio, un investigador ampliamente reconocido como uno de los fundadores de la IA, también habló ante el consejo. Dijo que los peligros son inmediatos y que cruzan fronteras que ningún país puede defender solo.
Washington mantiene su posición
Mientras tanto, el presidente Donald Trump reiteró esta semana que Estados Unidos rechazaría cualquier esfuerzo global para controlar la IA. Llamó a la tecnología asombrosa y subrayó que Washington avanzaría con cautela, sin crear nuevas leyes.
Según informes, el Secretario del Tesoro, Scott Bessent, está surgiendo como el líder de facto de la IA en el gobierno. Se dice que el asesor de la Casa Blanca, David Sacks, sigue teniendo influencia en el consejo de IA, aunque esté reduciendo su participación.
En contraste, China ya exige que todo el contenido generado por IA esté etiquetado y regula los datos usados para entrenar los modelos. La sesión del miércoles deja abierta la cuestión de si estas advertencias llevarán a una coordinación obligatoria entre las principales potencias mundiales de la IA.
Lee la historia original El CEO de Anthropic lanza otra advertencia, ahora a la ONU: “La IA podría ser un riesgo para la humanidad” por Darryn Pollock en es.beincrypto.com