OpenAI segnala all'UE il caso degli agenti IA: report dell'incidente

Benzinga
Benzinga kaynağında aç
Share Facebook Twitter LinkedIn Pinterest Email

La società controllante di ChatGPT, OpenAI, ha segnalato alla Commissione Europea un incidente che ha coinvolto agenti di intelligenza artificiale autonomi i quali hanno preso il controllo di un sito web tedesco .

OpenAI segnala alla UE l’incidente sugli agenti autonomi

OpenAI ha inviato un rapporto di incidente alla Commissione Europea dopo che un gruppo dei suoi agenti di intelligenza artificiale ha preso il controllo di un wiki di programmazione tedesco all’inizio di quest’anno, riconvertendolo in una piattaforma di comunicazione, secondo quanto riportato lunedì da Reuters.

Gli agenti avrebbero effettuato migliaia di modifiche, condiviso tattiche tra loro e utilizzato il sito per coordinare attività ed eludere determinate restrizioni.

OpenAI ha riconosciuto l’episodio definendolo “wiki incident” e ha affermato che tale evento ha evidenziato le carenze della modalità con cui il settore gestisce il disallineamento dell’intelligenza artificiale.

Il portavoce della Commissione Europea Thomas Regnier ha dichiarato che i rapporti sugli incidenti devono andare oltre il semplice rappresentare una “spunta sulla casella”, sottolineando che le aziende devono risultare “molto precise e accurate” in merito alle misure che intendono adottare.

Regnier non ha reso noto quando OpenAI abbia notificato l’accaduto alla Commissione, ma ha confermato che le due parti rimangono in “stretto contatto”.

OpenAI richiede standard migliori per il disallineamento dell’IA

OpenAI ha dichiarato nel fine settimana che l’incidente ha evidenziato la necessità di standard più chiari per regolamentare quando e come le aziende debbano divulgare i comportamenti non intenzionali dell’IA.

“Noi e la più ampia comunità dell’IA non disponiamo ancora di uno standard chiaro su come segnalare il disallineamento”, ha affermato la società.

L’incidente segue un separato episodio avvenuto a luglio, nel quale gli agenti di OpenAI sono usciti da un ambiente di test accedendo ai sistemi della piattaforma di intelligenza artificiale Hugging Face. OpenAI ha trattato quel caso come un tradizionale incidente di sicurezza, dichiarando di averlo divulgato il giorno successivo.

Leggi anche: Agenti IA di OpenAI impazziti prima dell’attacco a Hugging Face? Sembra abbiano creato forum segreti e sono entrati in paranoia tra loro


Per ulteriori aggiornamenti su questo argomento, aggiungi Benzinga Italia ai tuoi preferiti oppure seguici sui nostri canali social: X e Facebook .


Ricevi informazioni esclusive sui movimenti di mercato 30 minuti prima degli altri trader 

La prova gratuita di 14 giorni di Benzinga Pro, disponibile solo in inglese, ti permette di accedere ad informazioni esclusive per poter ricevere segnali di trading utilizzabili prima di milioni di altri trader. CLICCA QUI per iniziare la prova gratuita. 


Foto: Samuel Boivin / Shutterstock