El cofundador de Ethereum, Vitalik Buterin, ha apoyado la decisión de Moonshot AI de quitar las habilidades de hackeo de alto nivel de su nuevo modelo Kimi K3.1 Pro. En su opinión, limitar lo que la inteligencia artificial puede hacer es mejor que limitar quién puede usarla.
Sin embargo, esta medida de seguridad tiene un costo medible. Moonshot dice que el modelo filtrado resolvió el 81% de las tareas en su prueba interna de exploits, mientras que la versión sin filtro resolvió el 90.5%.
Vitalik Buterin respalda modelo de IA que redujo deliberadamente sus habilidades de hack
Buterin compartió su postura, argumentando que discriminar contra el uso es mucho menos dañino que discriminar contra los usuarios.
I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data.
— vitalik.eth (@VitalikButerin) October 26, 2026
Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…
Moonshot, una startup de IA con sede en Beijing, planea publicar los pesos abiertos del modelo antes del 4 de noviembre. Entonces, cualquiera podrá descargarlo y ejecutarlo en su propio hardware.
Por eso, la empresa dice que eliminó datos relacionados con ciberseguridad de su conjunto de entrenamiento y de los entornos de aprendizaje por refuerzo. Las tareas generales de programación sí se mantuvieron.
Según Vitalik Buterin, los ataques impulsados por IA llegarán con fuerza completa en algún momento. Hasta entonces, los desarrolladores necesitan tiempo para fortalecer los sistemas, revisar el código antiguo y verificar el software nuevo.
La amenaza ya es visible. A principios de este año, Binance Research descubrió que la IA explota smart contracts aproximadamente el doble de bien que detecta errores.
¿Qué podría pasar si la primera ola de riesgos de IA sale mal?
Buterin también advirtió sobre la alternativa. Si esta primera ola sale mal, él espera modelos muy restringidos, controles de Conoce a Tu Cliente (KYC) para todo y vigilancia intrusiva.
En ese escenario, el acceso a la IA podría depender de credenciales y nacionalidad. Algunas personas serían usuarios de segunda, tercera o cuarta clase, escribió.
Desde hace tiempo, Vitalik Buterin prefiere ejecutar modelos de IA abiertos en su propio hardware, como mostraron sus pruebas locales de IA en laptop.
Aun así, él no espera que los filtros duren para siempre. Cuando un usuario preguntó si otros laboratorios crearán estas capacidades de todos modos, él respondió que sí.
De hecho, según el propio recuento de Moonshot, el modelo abierto rival de DeepSeek, V4.1-Flash, ya obtuvo 85.7% en la misma prueba.
Para Vitalik Buterin, la seguridad en la IA se ha convertido en una carrera contra el tiempo y no en un bloqueo permanente. Esta carrera favorece a los defensores que adoptan sus resguardos de seguridad redundantes en cripto antes de que los atacantes se pongan al día.
Lee la historia original ¿Por qué Vitalik Buterin prefiere limitar la IA en lugar de limitar usuarios? por Phil Haunhorst en es.beincrypto.com