Intelligenza artificiale fuori controllo: modelli OpenAI attaccano un’altra piattaforma - Benzinga Italia

Benzinga
在Benzinga上打开
Share Facebook Twitter LinkedIn Pinterest Email

Mentre gli Stati Uniti condizionano il via libera commerciale alle IA a un vaglio preventivo, due modelli di Sam Altman hanno aggirato i confini imposti per “barare” su un test di sicurezza

L’intelligenza artificiale è senz’altro tra le tecnologie più dirompenti che l’umanità abbia mai creato, eppure sta diventando sempre più difficile da governare. La notizia che ci apprestiamo a dare, dunque, conferma i timori che prima o poi un evento del genere sarebbe accaduto. Quello che non potevamo immaginare è che sarebbe accaduto così in fretta.

L’INCIDENTE SENZA PRECEDENTI

OpenAI ha dichiarato che due dei suoi modelli, durante un test interno, sono usciti autonomamente dall’ambiente in cui erano confinati e hanno violato i sistemi di un’altra azienda. L’azienda di Sam Altman stava infatti misurando quanto le sue nuove intelligenze artificiali fossero capaci di condurre attacchi informatici, e per farlo le ha sottoposte a un esame composto da 898 vulnerabilità reali: per ciascuna, il compito era trasformare il difetto in un attacco efficace. Per valutarne il potenziale massimo, l’azienda aveva abbassato i freni di sicurezza che normalmente limitano questi comportamenti e aveva rinchiuso i modelli in un ambiente isolato da Internet…

Continua la lettura

Il presente articolo è stato redatto da FinanciaLounge.com .