Il co-fondatore di Ethereum, Vitalik Buterin, ha sostenuto la decisione di Moonshot AI di rimuovere le avanzate competenze di hacking dal suo nuovo modello Kimi K3.1 Pro. Secondo lui, limitare ciò che l’AI può fare è meglio che limitare chi può usarla.
Tuttavia, questa salvaguardia comporta un costo misurabile. Moonshot afferma che la versione filtrata del modello ha risolto l’81% dei task sul proprio benchmark interno di exploit, mentre la versione non filtrata ne ha risolti il 90,5%.
Perché Vitalik Buterin preferisce porre limiti all’AI invece che agli utenti
Buterin ha spiegato la propria posizione, sostenendo che discriminare tra gli usi è molto meno dannoso che discriminare tra gli utenti.
I am okay with Kimi 3.1 deliberately leaving out top-end offensive cyber capabilities from their training data.
— vitalik.eth (@VitalikButerin) October 26, 2026
Discriminating against use cases is MUCH less bad than discriminating against users. And the world does need all the time it can get to prepare, harden, check old…
Moonshot, startup AI con sede a Pechino, prevede di rilasciare i pesi open source del modello entro il 4 novembre. Chiunque potrà così scaricarlo ed eseguirlo sul proprio hardware.
Per questo motivo, la società spiega di aver rimosso dal corpus di dati per l’addestramento e dagli ambienti di reinforcement learning tutte le informazioni legate al cyber. Sono stati mantenuti invece i task di programmazione generale.
Secondo Vitalik Buterin, gli attacchi alimentati dall’intelligenza artificiale prima o poi arriveranno con piena forza. Gli sviluppatori devono quindi avere il tempo per rafforzare i sistemi, analizzare il codice legacy e verificare i nuovi software.
La minaccia è già visibile. All’inizio dell’anno, Binance Research ha scoperto che l’AI sfrutta gli smart contract circa il doppio delle volte rispetto a quante ne rileva le falle.
Iscriviti al nostro canale YouTube per ascoltare leader e giornalisti offrire approfondimenti esperti
https://www.youtube.com/watch?v=PqnAlVdpZO8&t=243sCosa succede se la prima ondata di rischi AI va male
Buterin ha inoltre messo in guardia sull’alternativa. Se questa prima ondata dovesse avere un esito negativo, si aspetta modelli AI bloccati, controlli KYC ovunque e un monitoraggio intrusivo.
In uno scenario simile, l’accesso all’AI potrebbe dipendere da credenziali e nazionalità. Alcune persone, scrive, diventerebbero utenti di seconda, terza o quarta classe.
Vitalik Buterin ha sempre preferito eseguire modelli AI open source sul proprio hardware, come dimostrano i suoi test locali sul laptop con l’AI.
Eppure, non si aspetta che i filtraggi siano eterni. Quando un utente gli ha chiesto se comunque altri laboratori avrebbero sviluppato queste capacità, lui ha risposto di sì.
Infatti, secondo lo stesso conteggio di Moonshot, il modello open rivale V4.1-Flash di DeepSeek ha già totalizzato l’85,7% su quel benchmark.
Per Vitalik Buterin, quindi, la sicurezza AI è diventata una corsa contro il tempo piuttosto che un blocco permanente. Questa corsa avvantaggia i difensori che adottano le sue ridondanti misure di sicurezza crypto prima che gli attaccanti riescano a colmare il divario.
Leggi la storia originale Vitalik Buterin sostiene un modello AI che ha deliberatamente ridotto le sue capacità di hacking di Phil Haunhorst su it.beincrypto.com