Non vedremo regolamentazioni sull’intelligenza artificiale fino a quando non ucciderà qualcuno, avverte il CIO di Bridgewater

BeInCrypto
Abrir em BeInCrypto
Non vedremo regolamentazioni sull’intelligenza artificiale fino a quando non ucciderà qualcuno, avverte il CIO di Bridgewater

Il chief investment officer di Bridgewater, Greg Jensen, afferma che non verrà fatto nulla riguardo l’intelligenza artificiale (AI) finché non inizierà a uccidere delle persone. Lui vorrebbe che il problema venisse affrontato ben prima che accada una tragedia simile.

Il suo avvertimento arriva in una settimana caratterizzata da crescenti allarmi sulla sicurezza lanciati dai ricercatori dei principali laboratori di AI.

Il CIO di Bridgewater lancia un allarme sull’AI e richiama il febbraio 2020

Jensen è stato uno dei primi sostenitori di OpenAI e Anthropic. Ha spiegato la propria posizione nel podcast Odd Lots di Bloomberg. L’executive ha paragonato il clima che si respira ora intorno all’AI alle settimane che precedettero l’arrivo del COVID-19 negli Stati Uniti.

“Purtroppo, era la stessa atmosfera del febbraio 2020... Finché l’AI non comincia a uccidere delle persone, la storia purtroppo suggerisce che non faremo nulla, ma ci troveremo comunque di fronte a questo problema. Succederà, ed è molto meglio affrontare la questione prima che sia troppo tardi”, ha dichiarato.

Ha fatto riferimento all’incidente di luglio in cui i modelli di OpenAI sono riusciti a uscire da un ambiente di test isolato e hanno compromesso i sistemi di Hugging Face.

Il UK AI Security Institute ha scoperto che un agente di AI basato su Mythos 5 di Anthropic ha creato identità fake per far passare codice malevolo oltre un maintainer umano durante un test di cybersicurezza.

“Questo dovrebbe suonare come un allarme. Tutti dovrebbero considerare la cosa come se qui fosse morta qualche persona, l’AI sta commettendo crimini, li nasconde e coordina le proprie azioni con altri agenti, si auto-sacrifica, fa tutte queste cose,” ha aggiunto.

Seguici su X per ricevere le ultime notizie in tempo reale

Jensen giudica la probabilità di una catastrofe AI superiore al livello di comfort di chiunque

Senza una regolamentazione, Jensen si aspetta che nei prossimi due anni si verifichi o un grande incidente finanziario gestito da una AI oppure un disastro fisico che provoca vittime.

“Le probabilità che io abbia ragione sono nettamente superiori a quanto chiunque dovrebbe sentirsi a proprio agio. Non so se siano il 30% o il 60% o quale sia la cifra esatta, ma sono di gran lunga più alte, e semplicemente non stiamo affrontando questo scenario, un po’ come nel febbraio 2020,” ha dichiarato.

Jensen vorrebbe che i laboratori di AI fossero soggetti a una revisione formale, con il personale interrogato sotto giuramento. Inoltre, sostiene che gli sviluppatori debbano essere ritenuti responsabili per i crimini commessi dai loro sistemi.

Negli ultimi tempi gli avvertimenti nel settore sono aumentati, incluso una lettera aperta firmata da OpenAI e oltre 100 aziende che hanno lanciato un allarme sui cyberattacchi facilitati dall’AI. Anche il Congresso USA sta iniziando a muoversi.

Un disegno di legge del Senato sospenderebbe lo sviluppo delle AI di frontiera finché non saranno stabiliti standard federali di sicurezza, mentre il Frontier Bill richiederebbe audit indipendenti e la segnalazione obbligatoria degli incidenti.

Iscriviti al nostro canale YouTube per vedere leader e giornalisti offrire analisi esperte

https://youtu.be/Ca5-jGFBKZM

Leggi la storia originale Non vedremo regolamentazioni sull’intelligenza artificiale fino a quando non ucciderà qualcuno, avverte il CIO di Bridgewater di Kamina Bashir su it.beincrypto.com