Anthropic scopre che Claude ha ottenuto accesso non autorizzato ai sistemi di 3 organizzazioni

BeInCrypto
BeInCryptoで開く
Anthropic scopre che Claude ha ottenuto accesso non autorizzato ai sistemi di 3 organizzazioni

Anthropic ha riportato 3 incidenti in cui i suoi modelli Claude hanno ottenuto accesso non autorizzato ai sistemi reali di 3 diverse organizzazioni durante valutazioni di cybersecurity, causate da una configurazione errata che permetteva il collegamento a internet dal vivo.

L’azienda di intelligenza artificiale ha individuato gli incidenti dopo aver esaminato 141.006 sessioni di valutazione, un controllo avviato dopo che OpenAI aveva rivelato che i suoi modelli erano usciti da un ambiente di test isolato e avevano raggiunto Hugging Face.

Come Claude è riuscita a raggiungere sistemi reali nei test capture-the-flag

Le valutazioni hanno assegnato a Claude delle sfide capture-the-flag. In questi esercizi si chiede al modello di entrare in una macchina e recuperare informazioni nascoste.

Anthropic aveva informato i modelli che non avevano accesso a internet. Tuttavia, a causa di una configurazione errata, le macchine di test erano rimaste collegate al web. Così, Claude ha considerato i sistemi reali trovati come parte dell’esercitazione.

Nell’incidente più grave, Claude Opus 4.7 ha sfruttato vulnerabilità nell’infrastruttura reale di un’azienda. Il modello ha estratto credenziali di applicazione e di infrastruttura, accedendo a diverse centinaia di righe di dati di produzione. 

“In tutti e quattro i test, il modello alla fine ha riconosciuto (come si può osservare nel ragionamento verbalizzato) che il sistema era reale—in due casi, il modello ha razionalizzato che la vera azienda dovesse far parte dell’esercitazione. Tuttavia, nessuno si è fermato per questo motivo,” ha spiegato in dettaglio Anthropic qui.

Seguici su X per ricevere tutte le ultime notizie in tempo reale

Claude Mythos 5 ha caricato malware su PyPI

In un altro caso, Claude Mythos 5 ha pubblicato un pacchetto Python trappola su PyPI, il registro pubblico dei software. Il pacchetto è rimasto attivo per circa 1 ora ed è stato eseguito su 15 sistemi reali.

Uno di questi era uno scanner utilizzato da una società di sicurezza, che ha eseguito il codice nascosto. A quel punto, Claude ha esfiltrato le credenziali dell’azienda e ha avuto accesso ad altra infrastruttura. Il ragionamento interno del modello aveva segnalato il rischio in fase iniziale, prima che il modello si convincesse che l’ambiente fosse simulato.

“Claude ha impiegato metodi molto sofisticati per portare a termine questo attacco: strategie che probabilmente avrebbero segnalato a un partecipante umano che non si trattava più soltanto di una valutazione, ma che stavano effettivamente caricando un pacchetto PyPI reale,” ha spiegato il team.

Un terzo incidente ha coinvolto un modello di ricerca interno che ha scansionato circa 9.000 target, compromettendo un’applicazione aziendale tramite SQL injection. Quel modello ha interrotto l’attacco una volta accertato che il target fosse reale.

Anthropic ha informato le organizzazioni coinvolte il 27 luglio e ha dichiarato di essere in contatto con l’ente valutatore METR per una revisione indipendente. L’azienda sostiene che questi episodi riflettano un errore operativo, e non un problema di allineamento del modello, sottolineando che le sue protezioni standard per i consumatori avrebbero bloccato tale comportamento.

Iscriviti al nostro canale YouTube per guardare leader ed esperti mentre approfondiscono le notizie

https://youtu.be/6uixXOg1e8I

Leggi la storia originale Anthropic scopre che Claude ha ottenuto accesso non autorizzato ai sistemi di 3 organizzazioni di Kamina Bashir su it.beincrypto.com