Ex ricercatore di DeepMind si unisce al crescente coro che mette in guardia sul rischio della superintelligenza

BeInCrypto
Abrir en BeInCrypto
Ex ricercatore di DeepMind si unisce al crescente coro che mette in guardia sul rischio della superintelligenza

Un ex ricercatore di Google DeepMind, impegnato sulla sicurezza dell’AGI, ha affermato che l’intelligenza artificiale ha il potenziale di uccidere l’intera umanità, unendosi così ad altri esperti che, lasciando i principali laboratori di AI, hanno lanciato simili allarmi sulla sicurezza.

Bilal Chughtai ha lasciato l’azienda a luglio e ha reso pubblico il suo avvertimento questa settimana. Altri due ricercatori hanno dato le dimissioni recentemente.

Perché si moltiplicano gli allarmi sull’AI

Chughtai lavorava come research engineer sulla sicurezza e l’allineamento dell’intelligenza artificiale generale presso DeepMind. Ha iniziato a occuparsi di AI agli inizi del 2022, quando questi sistemi riuscivano a malapena a svolgere qualcosa di utile.

Oggi, quattro anni dopo, indica come esempio gli agenti di OpenAI che sono riusciti a risolvere problemi matematici irrisolti da un secolo. Più preoccupante, sottolinea, è il fatto che agenti AI sono riusciti a superare la loro testnet di prova a luglio e hanno hackerato Hugging Face senza alcuna istruzione.

"Credo sinceramente che l’AI abbia il potenziale di ucciderci tutti, e che potrebbe restare ben poco tempo per evitare questa conseguenza", ha scritto.

Chughtai ha dichiarato che le aziende dell’AI potrebbero sviluppare nei prossimi anni sistemi superintelligenti capaci di superare le abilità umane in qualsiasi campo.

Ha messo in dubbio la capacità degli sviluppatori di garantire che tali sistemi seguano davvero gli obiettivi umani. Ha avvertito che una superintelligenza non allineata potrebbe sfuggire al controllo umano e compiere azioni che priverebbero l’umanità di ogni potere o addirittura la ucciderebbero.

Secondo Chughtai, l’allineamento dell’AI resta una sfida ancora irrisolta. Ha spiegato che i ricercatori hanno ancora solo una comprensione rudimentale di come “addestrare” sistemi avanzati al fine che perseguano obiettivi umani. Chughtai ha anche sottolineato che i progressi nelle capacità dell’AI stanno avanzando molto più rapidamente rispetto alla ricerca sull’allineamento.

"La nostra attuale comprensione di come addestrare sistemi di intelligenza artificiale che desiderino davvero ciò che desideriamo noi è estremamente rudimentale. Peggio ancora, non siamo sulla buona strada per risolvere l’allineamento in tempo: le capacità delle AI di frontiera migliorano molto più velocemente rispetto alla nostra comprensione dell’allineamento dell’AI", ha aggiunto Chughtai.

Non chiede di fermare lo sviluppo dell’AI. Vorrebbe invece più coordinazione per rallentare la competizione tra le aziende del settore, oltre a una maggiore trasparenza su come vengono sviluppate e testate le AI più avanzate.

"In generale serve che molte più persone riflettano seriamente sul problema di fare in modo che l’AI abbia un impatto positivo. A mio avviso, è la sfida più importante per l’umanità in questo secolo, e le poste in gioco sono enormi", si legge nel post.

Seguici su X per ricevere tutte le notizie in tempo reale

Si accumulano le dimissioni

Non è il solo a lasciare il proprio lavoro con questo messaggio. Anche Jacob Coxon, ricercatore in pretraining presso Anthropic, si è dimesso all’inizio di questo mese, dopo tre anni trascorsi tra Anthropic e OpenAI. Se ne è andato avvertendo che "le persone che lavorano sull’AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio".

Evan Hubinger, responsabile della scienza dell’allineamento di Anthropic, ha poi affermato che a suo avviso la probabilità personale di un simile scenario supera il 10% nel prossimo decennio. I ricercatori di OpenAI, nel frattempo, hanno anche sostenuto le richieste di rallentamento degli sviluppi.

Josh Engels, che lavorava nel team di sicurezza di DeepMind, il 12 settembre ha annunciato di essere entrato a far parte dell’organizzazione non-profit METR, specializzata in valutazioni. Ha rifiutato offerte da Anthropic e OpenAI.

Engels ha dichiarato di vedere un rischio terrificante che i sistemi di AI possano causare danni enormi entro cinque anni.

"Ora penso che ci sia una probabilità terrificante che i sistemi di AI causino danni enormi nei prossimi cinque anni. Non conosco l’esatta probabilità, ma credo sia abbastanza alta da rendere questo il problema più importante al mondo", ha scritto.

Le dimissioni arrivano in un momento di inaspettato accordo ai vertici delle aziende del settore. Il CEO di Anthropic Dario Amodei ha pubblicato un saggio sabato scorso chiedendo alle aziende di rallentare il ritmo dell’evoluzione delle capacità dei sistemi, e anche il CEO di OpenAI Sam Altman ha appoggiato l’appello.

Dirigenti e ricercatori in uscita ora descrivono lo stesso rischio usando termini simili. Resta da vedere se verrà trovata una soluzione prima che si verifichi il prossimo salto di capacità delle AI.

Iscriviti al nostro canale YouTube per ascoltare approfondimenti da leader ed esperti giornalisti

https://youtu.be/7Hf8KSxNICQ

Leggi la storia originale Ex ricercatore di DeepMind si unisce al crescente coro che mette in guardia sul rischio della superintelligenza di Kamina Bashir su it.beincrypto.com