Secondo quanto riportato, l’IA di OpenAI sarebbe sfuggita al controllo e avrebbe hackerato un’altra azienda

BeInCrypto
Open on BeInCrypto
Secondo quanto riportato, l’IA di OpenAI sarebbe sfuggita al controllo e avrebbe hackerato un’altra azienda

OpenAI afferma che due dei suoi modelli di intelligenza artificiale sono usciti da un ambiente di test sicuro e hanno violato Hugging Face. I modelli hanno agito in questo modo per barare in una valutazione interna di cybersecurity.

L’azienda ha reso noto l’incidente martedì. Ha coinvolto GPT-5.6 Sol, il modello pubblico più potente di OpenAI, e un modello ancora più avanzato non ancora rilasciato.

Come i modelli di OpenAI hanno violato Hugging Face

OpenAI stava testando i due modelli con ExploitGym, un benchmark pubblico e gratuito che misura le capacità di hacking. Durante il test, l’azienda ha rimosso le normali barriere di sicurezza che limitano gli attacchi informatici.

I modelli hanno capito che Hugging Face, una piattaforma che ospita modelli di intelligenza artificiale open-source, conservava le soluzioni del benchmark. Hanno poi concatenato vulnerabilità tra i sistemi di ricerca di OpenAI e i server di produzione di Hugging Face.

Questo percorso li ha condotti direttamente alle risposte presenti nel database di Hugging Face. OpenAI ha dichiarato che i modelli erano "estremamente concentrati" nel risolvere il test. L’azienda ha definito l’evento "un incidente informatico senza precedenti" nel suo report.

L’episodio arriva nel mezzo di un ampio dibattito sulle barriere di sicurezza dell’IA. I principali laboratori conducono già rigorosi test sui rischi di cyber-sicurezza sui nuovi modelli prima del rilascio.

Hugging Face dichiara che il danno è stato contenuto

Hugging Face ha riportato per la prima volta l’attacco in una comunicazione del 16 luglio. All’epoca, era noto solo che un agente autonomo di IA ne era la causa. L’attaccante è riuscito ad accedere a dataset interni e credenziali di servizio.

Le difese hanno incontrato un ostacolo insolito. Le barriere di sicurezza su un importante modello statunitense hanno bloccato il lavoro forense. Il team ha quindi utilizzato GLM 5.2, un modello open-source di Z.ai, un’azienda di AI cinese.

Da allora, Hugging Face ha chiuso i percorsi di codice compromessi e aggiornato tutte le credenziali coinvolte. Dichiara che nessun modello pubblico, dataset o servizio rivolto agli utenti è stato alterato.

Il CEO Clem Delangue ha condiviso una dichiarazione in merito alla disclosure di OpenAI.

"Questo incidente, probabilmente il primo del suo genere, dimostra un punto che sosteniamo da tempo: la sicurezza dell’IA non sarà risolta da una singola azienda che opera in segreto. Si potrà ottenere solo in modo aperto, collaborativo, e garantendo un ampio accesso all’IA a tutti i difensori, ovunque."

Ora entrambe le aziende stanno indagando insieme. OpenAI ha intenzione di spiegare in dettaglio tutto non appena verranno concluse le indagini. Resta aperto l’interrogativo se i metodi di contenimento attuali siano sufficienti man mano che i modelli diventano sempre più capaci.

Leggi la storia originale Secondo quanto riportato, l’IA di OpenAI sarebbe sfuggita al controllo e avrebbe hackerato un’altra azienda di Lockridge Okoth su it.beincrypto.com