L’avvertimento di Dario Amodei (Anthropic): “IA potente entro 2 anni, ecco cosa rischiamo” - Benzinga Italia

Benzinga
Open on Benzinga
L’avvertimento di Dario Amodei (Anthropic): “IA potente entro 2 anni, ecco cosa rischiamo” - Benzinga Italia
Share Facebook Twitter LinkedIn Pinterest Email

Dario Amodei, CEO di Anthropic, ha lanciato un duro avvertimento sui potenziali pericoli derivanti dal rapido avanzamento della tecnologia di intelligenza artificiale (IA).

Ecco i punti salienti del suo saggio , intitolato “L’adolescenza della tecnologia”.

I rischi dell’IA potrebbero emergere entro due anni

Amodei ha evidenziato i rischi posti da una “IA potente”, che egli definisce come sistemi più intelligenti dei vincitori del Premio Nobel, capaci di svolgere compiti autonomi a lungo termine e scalabili a milioni di istanze. Egli ha affermato che LLM significativamente più potenti dei modelli odierni potrebbero consentire atti più “spaventosi”. Amodei ha suggerito che un’IA potente potrebbe diventare realtà entro i prossimi 1-2 anni, a causa delle leggi di scalabilità e dei cicli di feedback in accelerazione.

“Questo ciclo è già iniziato e accelererà rapidamente nei prossimi mesi e anni”, ha scritto.

Rischi legati all’autonomia

Amodei sostiene che un “paese-IA” superintelligente potrebbe, se lo volesse, dominare il mondo tramite software, robotica, ricerca e sviluppo e arte del governo. Sebbene l’IA non incarnerà sempre fisicamente il potere, essa può sfruttare le infrastrutture esistenti e accelerare la robotica. Il comportamento dell’IA è imprevedibile, plasmato da un addestramento complesso e da “persona” ereditate, portando a possibili azioni distruttive, ha osservato.

“L’umanità sta per ricevere un potere quasi inimmaginabile ed è profondamente incerto se i nostri sistemi sociali, politici e tecnologici possiedano la maturità per gestirlo”, ha scritto Amodei.

Uso improprio per la distruzione e la presa di potere

Amodei ha inoltre sollevato preoccupazioni sulla possibilità che il paese che utilizza l’IA sia altamente “controllabile” (essenzialmente una popolazione che segue istruzioni come mercenari).

Ha messo in guardia dall’abuso dell’IA da parte di attori potenti, che combina IA avanzata, governo autocratico e sorveglianza di massa. Anche le democrazie presentano rischi, nonostante i meccanismi di tutela.

Altri stati non democratici dotati di grandi data center e di proprie aziende di IA presentano ulteriori preoccupazioni a causa del controllo su infrastrutture, modelli e ampie basi di utenti.

Disgregazione economica

Amodei ha affermato che un’IA potente potrebbe contribuire a sostenere una crescita del PIL annuo del 10-20% aumentando enormemente la produttività in tutti i settori. Tuttavia, ha avvertito che ciò comporta uno sconvolgimento del mercato del lavoro senza precedenti, con la potenziale sostituzione di fino alla metà dei posti di lavoro impiegatizi di livello base ( entry-level white-collar jobs ) entro 1-5 anni. La sua velocità, ampiezza cognitiva e adattabilità potrebbero superare la capacità di adeguamento umano, concentrare la ricchezza e creare disuguaglianza, generando shock a breve termine che metteranno a dura prova l’adattamento della forza lavoro, nonostante gli eventuali guadagni economici.

Effetto sulla vita umana

Oltre ai rischi economici e strategici, Amodei ha evidenziato anche grandi cambiamenti per la vita e lo scopo umano. I rapidi progressi della biologia potrebbero prolungare drasticamente la durata della vita umana e potenzialmente consentire importanti miglioramenti, come l’aumento dell’intelligenza o la modifica fondamentale della biologia umana, portando a profondi cambiamenti in tempi molto rapidi. Tuttavia, in un futuro con miliardi di IA superintelligenti, i rischi potrebbero derivare da incentivi normali, come problemi di salute mentale indotti dall’IA, interazioni che creano dipendenza o il sottile controllo delle persone in modi che riducono la libertà e l’orgoglio.

“Vivremo in un mondo davvero strano”, ha affermato.

Amodei ha inoltre auspicato l’adozione di leggi mirate da parte dei governi, come la legislazione sulla trasparenza, citando come esempi la SB 53 della California e il RAISE Act di New York, pur mettendo in guardia da eccessi in un contesto di incertezza.

Altri avvertimenti dagli esperti

Le avvertenze di Amodei giungono in un momento in cui anche altri esperti del settore sollevano preoccupazioni sul rapido avanzamento dell’IA. Il celebre storico e autore Yuval Noah Harari ha recentemente predetto due grandi crisi per ogni paese a causa del potenziale dell’IA di superare le prestazioni umane. Harari ha avvertito di una crisi d’identità man mano che le macchine supereranno l’intelligenza umana, costringendo la società a ripensare l’unicità dell’uomo, e di una crisi di “immigrazione da IA”, in cui i sistemi di IA porteranno benefici ma sconvolgeranno anche posti di lavoro, cultura e stabilità sociale, analogamente alle preoccupazioni spesso sollevate riguardo all’immigrazione umana.

Nel frattempo, l’investitore Steve Eisman ha messo in guardia su due rischi principali che potrebbero far deragliare lo slancio dell’IA nel 2026: la crescente carenza di energia e i rendimenti decrescenti derivanti dalla scalabilità dei modelli linguistici di grandi dimensioni (LLM). Eisman ha affermato che ciò rappresenta un rischio intellettuale derivante dalla dipendenza del settore da modelli linguistici sempre più grandi, che, ha avvertito, potrebbero rivelarsi “un vicolo cieco”.

Potrebbe interessarti: Tencent sfida i giganti USA: ecco il piano per conquistare il nuovo hub dell’IA


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita.


Foto: Shutterstock