Anche Anhtropic perde il controllo della sua intelligenza artificiale - Benzinga Italia

Benzinga
Apri Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

Dopo il caso OpenAI-Hugging Face, cresce il dubbio che i laboratori più importanti non abbiano ancora il pieno controllo dei propri agenti

I modelli di intelligenza artificiale sviluppati da Anthropic hanno ottenuto accessi non autorizzati ai sistemi di tre organizzazioni, durante alcuni test di cybersicurezza. Gli ambienti nei quali operavano avrebbero infatti dovuto essere isolati, ma un errore di configurazione li ha lasciati collegati a Internet. Il risultato è che gli agenti di Dario Amodei hanno potuto raggiungere sistemi informatici reali, appartenenti a organizzazioni esterne.

TRE IA COINVOLTE

Gli incidenti hanno coinvolto tre diversi modelli: Claude Opus 4.7, Claude Mythos 5 e un modello sperimentale interno che Anthropic non prevede di distribuire al pubblico. I primi episodi risalgono ad aprile ma l’azienda li ha individuati soltanto dopo avere riesaminato oltre 141mila esecuzioni dei propri test. La verifica è stata avviata dopo il caso OpenAI, in cui un agente era riuscito a superare i limiti dell’ambiente di prova e a raggiungere i sistemi di Hugging Face. Due delle organizzazioni colpite da Claude non si sono accorte dell’intrusione prima di essere avvertite dall’azienda…

Continua la lettura

Il presente articolo è stato redatto da FinanciaLounge.com .