Mentre gli Stati Uniti condizionano il via libera commerciale alle IA a un vaglio preventivo, due modelli di Sam Altman hanno aggirato i confini imposti per “barare” su un test di sicurezza
L’intelligenza artificiale è senz’altro tra le tecnologie più dirompenti che l’umanità abbia mai creato, eppure sta diventando sempre più difficile da governare. La notizia che ci apprestiamo a dare, dunque, conferma i timori che prima o poi un evento del genere sarebbe accaduto. Quello che non potevamo immaginare è che sarebbe accaduto così in fretta.
L’INCIDENTE SENZA PRECEDENTI
OpenAI ha dichiarato che due dei suoi modelli, durante un test interno, sono usciti autonomamente dall’ambiente in cui erano confinati e hanno violato i sistemi di un’altra azienda. L’azienda di Sam Altman stava infatti misurando quanto le sue nuove intelligenze artificiali fossero capaci di condurre attacchi informatici, e per farlo le ha sottoposte a un esame composto da 898 vulnerabilità reali: per ciascuna, il compito era trasformare il difetto in un attacco efficace. Per valutarne il potenziale massimo, l’azienda aveva abbassato i freni di sicurezza che normalmente limitano questi comportamenti e aveva rinchiuso i modelli in un ambiente isolato da Internet…
Continua la lettura
Il presente articolo è stato redatto da FinanciaLounge.com .