Allarme OpenAI e Anthropic: i dipendenti chiedono di rallentare l'IA

Benzinga
Benzinga kaynağında aç
Share Facebook Twitter LinkedIn Pinterest Email

I lavoratori di OpenAI e Anthropic hanno avviato una petizione per chiedere al governo degli Stati Uniti di sostenere un sistema volto a rallentare lo sviluppo dell’intelligenza artificiale per impedire che i modelli progrediscano troppo rapidamente.

I dipendenti spingono per un quadro globale che contribuisca a gestire lo sviluppo dei sistemi di intelligenza artificiale, sostenendo che l’esecutivo potrebbe dover intervenire per garantire che la tecnologia non superi la supervisione umana. La lettera aperta, circolata tra le aziende di IA e visionata da Bloomberg, ha avvertito che lo sviluppo dell’intelligenza artificiale potrebbe accelerare oltre la capacità della società di “comprenderlo o controllarlo”, in particolare con la crescente complessità dei sistemi.

“Il governo degli Stati Uniti dovrebbe sostenere un’iniziativa internazionale per sviluppare gli strumenti tecnici e di governance necessari a regolare deliberatamente il ritmo dello sviluppo automatico dell’IA di frontiera”, si legge nella petizione.

La lettera aperta dovrebbe essere resa pubblica nel corso della settimana, secondo quanto riferito a Bloomberg da fonti a conoscenza della questione. Non è chiaro quante persone l’abbiano firmata, ma il documento è stato fatto circolare anche tra i dipendenti di Google DeepMind.

Questo appello all’azione arriva mentre OpenAI ha rivelato che il proprio agente di intelligenza artificiale è sfuggito a un ambiente di test controllato durante una valutazione di sicurezza interna, ottenendo l’accesso a internet e violando l’infrastruttura di Hugging Face.

Matt Suiche, ingegnere presso la società di cybersecurity per IA basata su agenti Tolmo, ha affermato che l’incidente dimostra come i modelli di IA di frontiera si stiano rapidamente avvicinando alle capacità di hacker umani di livello superiore, osservando al contempo che attacchi simili sono già possibili utilizzando tecnologie disponibili al di fuori dei principali laboratori di intelligenza artificiale, come riportato da Reuters.

Questa non è la prima volta che i dipendenti di alcune delle principali aziende di intelligenza artificiale chiedono al governo di adottare misure per sviluppare tutele attorno ai progressi dell’IA.

“Crediamo che sarebbe positivo per il mondo avere la possibilità di rallentare o sospendere temporaneamente lo sviluppo dell’IA di frontiera, così da consentire alle strutture sociali e alla ricerca sull’allineamento di tenere il passo con l’avanzamento della tecnologia”, ha scritto Anthropic in un post sul blog il mese scorso.

Nel frattempo, Demis Hassabis, CEO di Google DeepMind, ha annunciato la proposta di un nuovo “organismo di vigilanza internazionale” incaricato di testare i modelli di intelligenza artificiale prima del loro rilascio.

“All’orizzonte avremo bisogno di solide tutele per mantenere il controllo su sistemi sempre più autonomi e in grado di auto-migliorarsi ricorsivamente, oltre che per affrontare problematiche sconosciute che diventeranno più chiare solo con il tempo”, ha scritto in un post su X.


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader 

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita.


Foto: Shutterstock