Anthropic avverte, i sistemi IA iniziano a potenziarsi in autonomia

Benzinga
Ouvrir sur Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

L’azienda di intelligenza artificiale Anthropic ha proposto una pausa a livello di settore nello sviluppo dell’IA, sostenendo che sistemi sempre più capaci potrebbero presto iniziare ad accelerare il proprio sviluppo oltre il ritmo di supervisione umana.

Il creatore di Claude ha avvertito in un rapporto pubblicato giovedì che l’IA potrebbe diventare in grado di contribuire alla costruzione di versioni migliori di se stessa, accelerando potenzialmente il progresso oltre la velocità con cui le misure di sicurezza e i quadri di governance riescono ad adattarsi.

L’IA sta già aiutando a costruire l’IA

Anthropic ha dichiarato che i propri dipendenti si affidano sempre più a Claude per scrivere codice, condurre ricerche e completare attività tecniche che altrimenti richiederebbero molto più tempo per essere portate a termine.

“Ho iniziato a puntare forte sul ‘Claudificare’ il lavoro circa un anno fa. È stata un’avventura folle e sono passati ormai circa 5 mesi da quando ho scritto l’ultima riga di codice di mio pugno”, ha raccontato un dipendente di Anthropic.

Sebbene sistemi di IA pienamente autonomi in grado di auto-migliorarsi debbano ancora emergere, l’azienda ha sottolineato che i progressi nella programmazione, nella ricerca e nelle capacità di automazione potrebbero accelerare notevolmente il ritmo dello sviluppo dei modelli futuri.

“Il codice scritto da Claude era leggermente peggiore di quello umano in Anthropic alla fine del 2025, oggi è sostanzialmente alla pari e prevediamo che entro l’anno sarà decisamente superiore”, ha aggiunto la società.

A riprova del crescente contributo dell’IA allo sviluppo del software, Anthropic ha riferito che Claude ha recentemente distribuito oltre 800 correzioni che hanno ridotto una categoria di errori API di un fattore pari a mille, un lavoro che, secondo una stima ingegneristica, avrebbe richiesto quattro anni di impegno umano.

Richieste di una pausa

Anthropic ha avvertito che l’auto-miglioramento ricorsivo potrebbe accelerare drasticamente il ritmo dello sviluppo dell’IA, comprimendo potenzialmente anni di progresso in archi temporali molto più brevi.

L’azienda ha sottolineato che tali progressi potrebbero lasciare governi, autorità di regolamentazione e persino gli stessi sviluppatori di IA in difficoltà nel comprendere e valutare sistemi sempre più capaci man mano che la tecnologia evolve.

Per affrontare tale rischio, Anthropic ha sostenuto che i laboratori di IA di frontiera dovrebbero stabilire preventivamente un quadro di pausa coordinata, concedendo ai ricercatori il tempo necessario per valutare i rischi emergenti qualora lo sviluppo dovesse superare le garanzie di sicurezza.

La corsa all’IA potrebbe rendere difficile rallentare

L’avvertimento di Anthropic giunge in un momento in cui Stati Uniti e Cina competono per la leadership nell’intelligenza artificiale, investendo miliardi di dollari in chip, data center e modelli di IA.

L’azienda ha sostenuto che qualsiasi futuro rallentamento richiederebbe un’ampia partecipazione da parte dei principali sviluppatori, poiché un’azione unilaterale da parte di una singola compagnia potrebbe rivelarsi inefficace.

“Tuttavia, se un rallentamento portasse semplicemente gli attori meno cauti a recuperare terreno tecnologicamente, potrebbe rendere tutti meno sicuri”, ha scritto Anthropic.

Anthropic intravede opportunità oltre ai rischi

Anthropic ha precisato che l’auto-miglioramento ricorsivo non è intrinsecamente negativo e potrebbe sbloccare significativi vantaggi scientifici ed economici, accelerando i progressi in campi che spaziano dalla medicina e dall’energia fino all’ingegneria del software e alla ricerca scientifica.

Ha tuttavia ammonito che la realizzazione di tali benefici richiederà garanzie efficaci, quadri di governance e cooperazione internazionale per garantire che sistemi di IA sempre più capaci rimangano allineati con gli interessi umani.


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader 

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita. 


Foto: Shutterstock