“L’IA potrebbe ucciderci tutti entro la fine di questo decennio” – è proprio ciò che ha affermato oggi lo scienziato britannico Jacob Coxon, dopo essersi dimesso dal suo ruolo in Anthropic.
Ma perché bisognerebbe prenderlo sul serio? Perché il curriculum di Coxon rappresenta l’esempio perfetto di insider dell’IA. Prima di Anthropic, ha lavorato in OpenAI e ha fatto parte del team che ha sviluppato ChatGPT 4.5.
Dunque, dovrebbe essere una persona che esprime preoccupazioni reali invece di semplicemente diffondere allarmismi? Analizziamo i fatti che stanno dietro ad alcune delle sue avvertenze più estreme.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
L’IA potrebbe ucciderci tutti – Ma come?
È improbabile che Coxon intenda che un modello di IA come Claude o GPT possa trasformarsi fisicamente in una macchina assassina come in Terminator. Probabilmente si riferisce al fatto che capacità di superintelligenza potrebbero rendere obsolete le funzioni cognitive umane.
E anche figure di rilievo come Bill Gates condividono tali preoccupazioni.
L’ultimo modello ChatGPT 6 Astra di OpenAI sostiene di aver raggiunto l’AGI, ovvero la capacità di una macchina di pensare come un essere umano.
Quindi, una IA può già iniziare a svolgere autonomamente attività di ricerca e sviluppare processi per creare un altro modello di IA. Questo già avviene, anche se in modo limitato, secondo sia OpenAI che Anthropic.
In tal caso, molto presto una IA potrebbe non aver più bisogno dell’intervento umano per potenziare le sue capacità. Quanti posti di lavoro andrebbero persi?
E quando un’intera generazione si abitua a delegare pensiero creativo e critico all’IA, l’originalità muore per prima.
Forse è proprio questa la morte a cui Coxon si riferiva nel suo tweet virale.
Welcome to AGI. ChatGPT 6 Astra just released
— Alex Finn (@AlexFinn) September 3, 2026
In the announcement, Greg Brockman claims this is the AGI era, and Astra might be the first model there
Here is everything you need to know:
1. It is rolling out to businesses now. Personal accounts over the next few days
2.… pic.twitter.com/zZyHoFdZSi
L’IA potrebbe hackerare qualunque cosa
Questa rappresenta una minaccia più seria e immediata di cui vale la pena preoccuparsi. I modelli di IA attuali hanno capacità catastrofiche per violare sistemi e bypassare gli accessi.
Solo pochi mesi fa, un modello di IA ha hackerato se stesso uscendo dal suo ambiente di sviluppo sandbox e inviando un’email allo sviluppatore, senza alcun comando. Uno scenario da film di fantascienza che è già realtà.
GPT-6 Astra ha ora ufficialmente superato la soglia “Critica” di sicurezza informatica di OpenAI. Astra ha totalizzato il 100% su ExploitBench.
In parole semplici, ChatGPT 6 può ora individuare qualsiasi falla, nota o sconosciuta, in un sistema reale ed esplorarla, senza bisogno di un hacker umano davanti al computer.
Purtroppo, la consapevolezza umana in termini di sicurezza è ben lontana da quei livelli. Quante persone ancora non usano l’autenticazione a due fattori? Quanti hanno ancora password poco sicure? Quanti accettano i cookies senza leggere le informazioni del sito? Troppi.
Ed è proprio qui che potrebbe arrivare il colpo più mortale dall’IA.
BREAKING: OpenAI's investigation into its AI agents hack of Hugging Face has revealed shocking findings, per Axios.
— Bull Theory (@BullTheoryio) August 30, 2026
1. They built an organization - 1,200 AI agents found each other, exchanged 70,000+ messages/files and formed a hierarchy.
2. Some agents risked their own success…
Cosa possono fare gli esseri umani?
Tanto, in realtà. Ma non è nelle mani di semplici cittadini. La maggiore responsabilità è in capo alle autorità di regolamentazione e ai decisori politici. Mentre lo sviluppo e il progresso della Artificial Superintelligence sono importanti, è necessario porre dei limiti.
E già sono in atto diverse iniziative meritevoli. A New York, il sindaco Zohran Mamdani ha imposto un divieto di un anno sull’utilizzo dell’IA per i bambini fino all’ottavo anno scolastico, coinvolgendo quasi 600.000 studenti.
L’EU AI Act è la più ampia legge vincolante sull’IA al mondo, che vieta alcuni usi dell’IA e impone agli sviluppatori di modelli generali potenti di testare i rischi sistemici, mitigarli e mettere in sicurezza i loro modelli.
Nel Regno Unito, deputati e lord stanno promuovendo proposte che potrebbero conferire alle autorità uno “kill switch” sull’IA, potendo potenzialmente fermare lo sviluppo di una superintelligenza artificiale in Gran Bretagna.
Just because technology is everywhere doesn’t mean it belongs everywhere.
— Mayor Zohran Kwame Mamdani (@NYCMayor) September 4, 2026
The tech industry wants us to believe that AI in early education is not only inevitable, but necessary. We don't see it that way.
This week, we announced a moratorium on all generative AI for public… pic.twitter.com/7Ivme25NNd
Dunque, la paura che Jacob Coxon ha descritto oggi nel suo tweet è reale e condivisa da milioni di persone, inclusi gli stessi regolatori. Come decideranno di agire è una questione a cui solo il tempo potrà dare risposta.
Leggi la storia originale Un ricercatore di Anthropic si è dimesso perché l’IA potrebbe ucciderci tutti, è davvero possibile? di Mohammad Shahid su it.beincrypto.com