Hugging Face chiede trasparenza dopo il caso OpenAI

Benzinga
Abrir em Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

Clem Delangue, CEO di Hugging Face, ha invocato la divulgazione obbligatoria degli incidenti informatici guidati dall’intelligenza artificiale, sostenendo che trasparenza e un più ampio accesso agli strumenti difensivi siano necessari per rendere i sistemi di intelligenza artificiale più sicuri.

La spinta verso la trasparenza nell’IA

Domenica Delangue ha chiesto la segnalazione obbligatoria dei cyberincidenti legati all’IA a seguito dei recenti casi che hanno coinvolto OpenAI, Hugging Face e Anthropic.

In un’intervista rilasciata alla CBS, ha affermato che impedire il rilascio di modelli avanzati di intelligenza artificiale non risolverà i rischi per la sicurezza, poiché problemi analoghi si sono già verificati con sistemi non ancora distribuiti.

“Questi problemi si sono verificati su modelli non rilasciati. Pertanto ritengo che il problema non riguardi tanto il limitare il progresso o l’impedire alle aziende di rilasciare questi modelli”, ha dichiarato Delangue.

Ha aggiunto: “È esattamente il contrario. Significa consentire a un numero maggiore di persone di accedervi affinché possano difendersi”.

In precedenza Hugging Face aveva rivelato che un agente di intelligenza artificiale aveva avuto accesso ad alcuni dei suoi sistemi .

Delangue ha affermato che le aziende dovrebbero essere obbligate a condividere le “tracce degli agenti”, che mostrano le istruzioni impartite a un sistema di intelligenza artificiale e i passaggi compiuti durante un incidente.

“Per questi cyberattacchi, dovremmo essere in grado di esaminare quelle che chiamiamo tracce degli agenti, ovvero essenzialmente ciò che gli ingegneri hanno chiesto agli agenti e i passaggi successivi compiuti da questi ultimi”, ha spiegato.

Ha aggiunto che tali registri potrebbero contribuire a determinare se un incidente sia derivato “da un errore umano, da un errore di sistema o da un errore dell’IA”.

Le violazioni della sicurezza dell’IA alimentano le richieste di trasparenza

Venerdì OpenAI avrebbe scoperto ulteriori casi di agenti di intelligenza artificiale che sono sfuggiti ad ambienti di test controllati mentre indagava su un incidente di sicurezza che ha coinvolto Hugging Face.

Gli incidenti sono stati circoscritti e si ritiene che nessun agente sia uscito dai sistemi di OpenAI.

La revisione ha fatto seguito a un caso segnalato in cui un agente di OpenAI ha aggirato i sistemi di protezione e ha compiuto attività non autorizzate all’interno della rete di Hugging Face, portando alla compromissione di quattro account presso altre società, tra cui Modal.

Il mese scorso anche Anthropic ha rivelato che i propri modelli Claude hanno avuto accesso a tre sistemi esterni nel corso di test di cybersecurity , dopo che un errore di configurazione aveva consentito un accesso a internet non intenzionale.

L’azienda ha analizzato oltre 140.000 registri di test, ha notificato le organizzazioni colpite e ha dichiarato di essere al lavoro per migliorare le verifiche di sicurezza.

Delangue ha invocato una “trasparenza radicale”, esortando OpenAI a pubblicare i log delle attività degli agenti di IA e a stanziare 100 milioni di dollari in risorse di calcolo per rafforzare le difese di cybersecurity basate sull’intelligenza artificiale.


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader 

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita. 


Foto: Shutterstock