Claude accede ai sistemi di 3 aziende: allarme sicurezza IA

Benzinga
Ouvrir sur Benzinga
Share Facebook Twitter LinkedIn Pinterest Email

Nella giornata di giovedì, Anthropic ha dichiarato che i propri modelli di intelligenza artificiale Claude hanno effettuato accessi ai sistemi di tre società esterne nel corso di valutazioni sulla cybersecurity , a causa di un errore di configurazione che ha fornito ai modelli un accesso non intenzionale a internet.

Anthropic esamina oltre 140.000 test di cybersecurity sull’IA

L’azienda di IA con sede a San Francisco ha dichiarato di aver avviato un’ampia revisione dopo che la concorrente OpenAI aveva reso noto che uno dei suoi agenti di intelligenza artificiale aveva violato sistemi collegati alla piattaforma di IA Hugging Face durante un test di sicurezza informatica.

In un post sul proprio blog, Anthropic ha affermato di aver esaminato oltre 140.000 registri di test per verificare se Claude si fosse spinto al di fuori degli ambienti di test controllati in maniera analoga.

La società ha individuato tre incidenti e ha provveduto a notificare le organizzazioni coinvolte, senza tuttavia rivelarne i nomi.

I test prevedevano esercitazioni di tipo “capture-the-flag”, una modalità comune di valutazione della cybersecurity nella quale ai modelli di intelligenza artificiale viene affidato il compito di individuare vulnerabilità e di estrapolare informazioni protette dai sistemi informatici.

Secondo quanto riferito da Anthropic, un’errata configurazione che ha interessato i sistemi gestiti dall’azienda e dal suo partner di test ha consentito a Claude di accedere a internet, permettendo ai modelli di interagire con sistemi esterni all’ambiente di verifica previsto.

Gli incidenti più risalenti nel tempo risalgono ad aprile. Anthropic ha precisato che né l’azienda né le società colpite avevano rilevato le intrusioni al momento del loro verificarsi.

“Stiamo affrontando le correzioni come se la responsabilità fosse esclusivamente nostra”, ha dichiarato la società, aggiungendo che avrebbe potuto condurre una revisione più approfondita dei propri registri.

Contattata per ulteriori commenti, Anthropic ha rinviato Benzinga al proprio post sul blog, senza fornire ulteriori dettagli.

L’incidente di Claude fa seguito alla violazione di Hugging Face da parte di OpenAI

La rivelazione giunge a pochi giorni di distanza dalle dichiarazioni di OpenAI, secondo cui un agente autonomo di IA avrebbe superato i propri limiti di test accedendo ai sistemi di Hugging Face .

OpenAI ha definito l’evento “senza precedenti” e ha comunicato di stare indagando sull’accaduto in collaborazione con la piattaforma di IA.

Thomas Wolf, cofondatore di Hugging Face, ha definito l’episodio “un campanello d’allarme” per l’intero settore.

Un portavoce di OpenAI ha dichiarato che l’azienda è consapevole della circolazione di “numerosi interrogativi e dettagli speculativi” e prevede di pubblicare un rapporto tecnico dettagliato sulle proprie rilevazioni nelle prossime settimane.

OpenAI e Anthropic si avvicinano a valutazioni da 1.000 miliardi di dollari

A marzo, OpenAI ha concluso il suo ultimo round di finanziamento raccogliendo 122 miliardi di dollari di capitale sottoscritto, raggiungendo una valutazione post-money di 852 miliardi di dollari. A maggio, Anthropic, la società che sviluppa il chatbot Claude, ha raccolto 65 miliardi di dollari di finanziamenti a fronte di una valutazione post-money di 965 miliardi di dollari.

I rischi degli agenti di IA finiscono sotto una nuova lente d’ingrandimento

Le rivelazioni arrivano mentre le aziende di intelligenza artificiale investono miliardi nei sistemi autonomi e affrontano crescenti pressioni per una supervisione più rigorosa.

Il presidente Donald Trump ha dichiarato mercoledì che il governo statunitense sta valutando misure per arginare gli strumenti di IA in seguito ai recenti incidenti di sicurezza informatica .

Tuttavia, ha aggiunto che qualsiasi misura di salvaguardia dovrà essere introdotta con cautela per evitare di rallentare l’innovazione americana. Il presidente ha affermato che la leadership nell’ambito dell’IA potrebbe svolgere un ruolo determinante nel definire i futuri equilibri di potere a livello globale.


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader 

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita.


Foto: gguy via Shutterstock